در پاسخ به افزایش استقبال جهانی از اجرای مدل‌های زبانی بزرگ (LLM) به صورت لوکال بر روی کامپیوترهای دسکتاپ، شرکت AMD از پروژه منبع باز جدیدی به نام Gaia رونمایی کرد. این برنامه برای اجرای مدل‌های زبانی بر روی کامپیوترهای ویندوزی طراحی شده اما به طور ویژه برای PCهای مجهز به پردازنده‌های Ryzen AI بهینه‌سازی شده است.
Gaia از کیت توسعه نرم‌افزار (SDK) منبع باز Lemonade از ONNX TurnkeyML برای پردازش مدل‌های زبانی استفاده می‌کند. این پلتفرم با هدف تطبیق مدل‌ها برای انجام وظایف متنوعی مانند خلاصه‌سازی و استدلال پیچیده ارائه شده است.
معرفی هوش مصنوعی لوکال AMD Gaia
Gaia از فناوری RAG استفاده می‌کند. این فناوری با ترکیب یک مدل زبانی با یک پایگاه دانش، به ارائه پاسخ‌های دقیق‌تر و متناسب‌تر کمک می‌کند. در این روش، به جای صرفاً تکیه بر حافظه داخلی مدل، سیستم از یک پایگاه داده یا منبع دانش خارجی استفاده می‌کند تا اطلاعات مرتبط با پرسش کاربر را بازیابی کند. سپس مدل زبانی از این اطلاعات برای تولید پاسخی دقیق‌تر و زمینه‌محور بهره می‌گیرد.
در Gaia چهار ابزار مختلف وجود دارند:
- Simple Prompt Completion: برای تعامل مستقیم با مدل هوش مصنوعی.
- Chaty: چت‌باتی برای مکالمه با کاربران.
- Clip: جستجو در یوتیوب و پاسخ به سوالات مرتبط.
- Joker: لطیفه گو با شخصیتی طنزآمیز.
Gaia در دو نسخه ارائه شده است، نسخه اصلی که روی هر کامپیوتر ویندوزی قابل اجرا است، اما نسخه Hybrid برای کامپیوترهای مجهز به پردازنده‌های Ryzen AI بهینه شده است. نسخه Hybrid با استفاده از واحد پردازش عصبی (NPU) و گرافیک داخلی پردازنده‌های AMD، عملکرد بهتری ارائه می‌دهد.
پروژه Gaia یکی از جدیدترین گزینه‌ها در میان ابزارهای اجرای مدل‌های زبانی به صورت محلی است که با برنامه‌هایی مانند LM Studio و ChatRTX رقابت می‌کند. اجرای مدل‌ها به صورت محلی مزایای قابل توجهی از جمله امنیت بیشتر، تأخیر کمتر و عملکرد بهتر بسته به سخت‌افزار سیستم ارائه می‌دهد. علاوه بر این، کاربران می‌توانند بدون نیاز به اتصال اینترنت از قابلیت‌های هوش مصنوعی بهره‌مند شوند.
source