پلتفرم Red Hat Enterprise Linux AI یا RHEL AI چیست و چه قابلیت هایی دارد؟

Red Hat یک پیش‌نمایش توسعه‌دهنده از Red Hat Enterprise Linux AI یا RHEL AI را معرفی کرد. RHEL AI چیست؟ یک پلتفرم مدل بنیادی برای توسعه، آزمایش و اجرای یکپارچه‌ی بهترین مدل‌های هوش مصنوعی منبع باز Granite برای تقویت برنامه‌های کاربردی سازمانی می باشد هوش مصنوعی RHEL یا RHEL AI بر اساس پروژه‌ی منبع‌باز InstructLab یاInstructLab open source project  بوده و مدل‌های زبانی بزرگ Granite یا open source-licensed Granite را با مجوز منبع‌باز از IBM Research و ابزارهای هماهنگی مدل InstructLab، بر اساس روش LAB هماهنگی در مقیاس بزرگ برای chatBots، ترکیب می‌کند؛ این ترکیب که در یک تصویر RHEL بهینه شده و بوت‌پذیر صورت می‌گیرد، استقرار سرور را ساده می‌کند.

هدف اصلی RHEL AI چیست؟

هدف اصلی RHEL AI و پروژه‌ی InstructLab توانمندسازی کارشناسان این حوزه برای مشارکت مستقیم در مدل‌های زبانی بزرگ با دانش و مهارت است. این امر متخصصان این حوزه را قادر می‌سازد تا برنامه‌های مبتنی بر هوش مصنوعی مانند ربات‌های گفتگو را با کارایی بیشتری بسازند.

قابلیت های RHEL AI چیست؟

RHEL AI شامل تمام آن چیزهایی است که شما نیاز دارید:

• بهره‌گیری از نوآوری جامعه از طریق مدل‌های منبع‌باز و مهارت‌ها و دانش منبع‌باز برای آموزش؛
• ارائه‌ی مجموعه‌ای از ابزارهای نرم‌افزاری و گردشِ کار که هدف آن فراهم آوردن امکان آموزش و تنظیم دقیق برای کارشناسان این حوزه است که تجربه‌ی علم داده را ندارند؛
• بسته‌بندی نرم‌افزار و سیستم عامل با قابلیت سخت‌افزاری هوش مصنوعی بهینه شده؛
• حمایت از شرکت و جبران خسارت مالکیت معنوی.

پیش‌زمینه RHEL AI چیست

مدل‌های زبانی بزرگ یا LLM و خدمات مبتنی بر آن‌ها مانند GPT و chatGPT به خوبی شناخته شده‌اند و به طور فزاینده‌ای توسط سازمان‌های بزرگ استفاده می‌شوند. این مدل‌ها اغلب منبع‌بسته یا با مجوز سفارشی هستند. اخیراً، تعدادی از مدل‌های باز مانند Mistral، Llama، OpenELMنیز شروع به ظاهر شدن کرده اند. با این حال، باز بودن برخی از این مدل‌ها محدود است

امروزه LLMها بزرگ و چند منظوره هستند. Red Hat دنیایی از مدل‌های هدفمند، کم‌هزینه و با عملکرد بهینه‌شده را متصور می‌شود که با ابزارهای سطح جهانی MLOps احاطه شده است و حریم خصوصی، حاکمیت و محرمانه بودن داده‌ها را در خط مقدم قرار می‌دهد.

بیشتر بخوانید: بررسی آینده داده های امنیتی Red Hat

pipeline آموزش برای تنظیم دقیق LLM نیاز به تخصصِ علوم داده دارد و ممکن است از دو جهت گران باشد: هم از نظر استفاده از منابع برای آموزش و هم به دلیل هزینه‌ی داده‌های آموزش با کیفیت بالا.

Red Hat همراه با IBM و جامعه‌ی منبع‌باز پیشنهاد می‌کند که این مورد تغییر کند. ما پیشنهاد می‌کنیم که گردش کار مشارکت‌کننده منبع‌باز آشنا و مفاهیم مرتبط مانند مجوز مجاز مثلا Apache2 را به مدل‌ها و ابزارهایی که جامعه‌ای از کاربران را قادر می‌سازد تا مشارکت‌هایی را به LLM ایجاد کرده و به آن اضافه کنند. این امر همچنین اکوسیستم های مختلف را برای ارائه‌ی پیشنهادها و ارزش‌ها به منظور فعالسازی گسترش و ادغام اطلاعات محافظت شده توسط شرکت‌ها توانمند می‌کند.

معرفی Red Hat Enterprise Linux AI!

هوش مصنوعی  Red Hat Enterprise Linux از چهار جزء اساسی متمایز تشکیل شده است:

مدل‌های گرانیتی باز

RHEL AI  شامل مدل‌های کد و زبان گرانیتی دارای مجوز منبع‌باز و با کارایی بالا و توسعه‌یافته از جامعه InstructLab است، که توسط Red Hat کاملاً پشتیبانی و جبران می‌شود. این مدل‌های گرانیتی دارای مجوز Apache 2 هستند و دسترسی شفاف به منابعِ داده و وزن مدل را فراهم می‌کنند.

کاربران می‌توانند LLM سفارشی خود را با آموزش مدل‌های پایه با مهارت‌ها و دانش خود ایجاد کنند. آن‌ها می‌توانند انتخاب کنند که مدلِ آموزش‌دیده و مهارت‌ها و دانشِ اضافه‌شده را با جامعه به اشتراک بگذارند و یا آن‌ها را خصوصی نگه دارند. برای پیش‌نمایش توسعه‌دهندگان، کاربران به مدل زبان انگلیسی Granite 7b و مدل Granite 7b LAB مربوطه دسترسی دارند.

هماهنگی مدل InstructLab

LAB: Large-Scale Alignment for ChatBots، یک رویکردِ جدید برای هماهنگی دستورالعمل‌ها و تنظیم دقیق مدل‌های زبانی بزرگ با رویکرد طبقه‌بندی محور است که از تولید داده‌های مصنوعی با کیفیت بالا استفاده می‌کند. به عبارت ساده‌تر، این رویکرد به کاربران اجازه می‌دهد تا یک LLM را با دانش و مهارت‌های خاص دامنه سفارشی کنند. سپس InstructLab داده‌های مصنوعی با کیفیت بالا تولید می‌کند که برای آموزش LLM استفاده می‌شود. یک حافظه‌ی بازپخش Replay Buffer نیز برای جلوگیری از فراموشی استفاده می‌شود.

روش LAB شامل چهار مرحله متمایز می باشد.

• نمایش مهارت‌ها و دانش مبتنی بر طبقه‌بندی
• تولید داده‌های مصنوعی یا همان Synthetic data generation یا SDG
• اعتبارسنجی داده‌های مصنوعی
• آموزش مهارت‌ها و دانش

InstructLab نام نرم‌افزاری است که تکنیک LAB را اجرا می‌کند. این نرم‌افزار شامل یک رابط خط فرمان است که با یک مخزن محلی مهارت‌ها و دانش git، از جمله آن‌هایی که کاربر اضافه کرده است، برای تولید داده‌های مصنوعی، اجرای آموزش LLM، و ارائه سرویس به مدل آموزش‌دیده و چت با آن، تعامل دارد.

برای پیش‌نمایش توسعه‌دهنده، InstructLab از این موارد استفاده می‌کند: الف) گردش کار git برای افزودن مهارت‌ها و دانش، ب) Mixtral به عنوان مدل معلم برای تولید داده‌های مصنوعی، ج) سرعت عمیق برای آموزش مرحله‌ای و د) vllm به عنوان سرور استنتاج. همچنین، این ابزار دروازه‌هایی را ارائه می‌دهد که امکان بررسی و بازخورد انسانی را فراهم می‌کند. ما در حال کار برای افزودن ابزارهای بیشتری هستیم تا در آینده آن را آسان‌تر و مقیاس‌پذیر کنیم. مانند هر پروژه‌ی منبع باز، شما می‌توانید به هدایت مسیر آن کمک کنید!

بهینه‌سازی قابلیت بوت کردن Red Hat Enterprise Linux برای مدل‌های Granite و InstructLab

پشتیبانی سازمان، چرخه‌ی عمر و جبران خسارت

در صورت دسترسی عمومی یا همان General Availability یا  GA، اشتراک‌های Red Hat Enterprise Linux AI شامل پشتیبانی سازمانی، چرخه‌ی عمر کامل محصول با مدل و نرم‌افزار Granite 7B و جبران خسارت IP توسط Red Hat خواهد بود.

از آزمایش تا تولید

در اینجا یک رویکرد سه مرحله‌ای در مورد چگونگی شروع اولین استقرار تولید تا تولید در مقیاس مناسب ارائه شده است:

• گام اول: شما می‌توانید کار را با لپ تاپ یا دسکتاپ خود با استفاده از منبع باز InstructLab CLI شروع کنید. این امر شما را با InstructLab آشنا کرده و یک مدل با دقت پایین Qlora با مهارت و دانش شما تولید می‌کند.
• گام دوم: شما می‌توانید Red Hat Enterprise LInux AI را در یک سرور فیزیکی Bare Metal، یک ماشین مجازیِ در محل یا در فضای مبتنی بر cloud بوت کنید. اکنون می‌توانید مجموعه‌ای از مهارت‌ها و دانش را اضافه کنید و با استفاده از InstructLab یک مدل آموزش‌دیده و تنظیم‌شده با وفاداری بالا را آموزش دهید، که بعداً می‌توانید با آن چت کرده و آن را با برنامه‌های خود ادغام کنید.
• گام سوم: شما می‌توانید برای تولید در مقیاس مناسب، از همان روش بالا با RHEL AI استفاده کنید، اما با مزایای بیشتر خواهید توانست آموزش را در چندین گره Nod برای تکمیل سریع‌تر و برای توان عملیاتی بیشتر با هوش مصنوعی OpenShift پخش کنید. علاوه بر این، OpenShiftAI ادغام مدل آموزش دیده خود را با برنامه‌های کاربردی بومی مبتنی بر cloud در تولید بسیار آسان‌تر می‌کند

Red Hat، همراه با IBM، یعنی جامعه‌ی منبع‌باز، را آغاز کرده که قدرتِ نوآوری و همکاری منبع‌باز را برای مدل‌های زبانی بزرگ یا همان Large Language Models و نرم ‌افزارهای سازمانیِ باز را برای شرکت‌ها و سازمان‌ها به ارمغان می‌آورد.