با آپدیت جدید Strix Halo، مدل‌های AI با 128 میلیارد پارامتر را روی لپ‌تاپتان اجرا کنید!

برخلاف تصور رایج، مانع اصلی برای اجرای مدل‌های هوش مصنوعی روی سیستم‌های خانگی نه توان پردازشی، بلکه حجم حافظه است. حال با بروزرسانی جدید درایور آدرنالین، کاربران ویندوز نیز می‌توانند تا ۹۶ گیگابایت از حافظه سیستم را در اختیار iGPU پردازنده‌های Ryzen AI MAX 300 قرار دهند و مدل‌های عظیمی مانند Llama 4 را به صورت محلی اجرا کنند.

شرکت AMD به تازگی یک به‌روزرسانی نرم‌افزاری برای پلتفرم Ryzen AI Max+ خود منتشر کرده که پشتیبانی از مدل‌های زبان بزرگ (LLM) را در سیستم‌عامل ویندوز به شکل چشمگیری ارتقا می‌دهد.

با درایور جدید Adrenalin Edition 25.8.1 WHQL، سیستم‌های مجهز به پردازند‌های Strix Halo مانند Ryzen AI Max+ 395 که به ۱۲۸ گیگابایت حافظه رم مجهز هستند، اکنون می‌توانند مدل‌های هوش مصنوعی با حداکثر ۱۲۸ میلیارد پارامتر را با استفاده از فریمورک Vulkan llama.cpp پردازش کنند. این جهش بزرگ به لطف فناوری «حافظه گرافیکی متغیر» یا Variable Graphics Memory ای‌ام‌دی ممکن شده است.

این فناوری به سیستم اجازه می‌دهد تا حداکثر ۹۶ گیگابایت از حافظه رم کل سیستم را به پردازش‌های مرتبط با هوش مصنوعی اختصاص دهد. این ویژگی، پردازنده Ryzen AI Max+ 395 را به اولین پردازنده AI PC تبدیل می‌کند که می‌تواند مدل پیشرفته Llama 4 Scout 109B متا را به صورت کاملاً محلی و با پشتیبانی از قابلیت‌های بینایی ماشین و MCP اجرا کند.

از آنجایی که مدل Llama Scout از معماری Mixture-of-Experts بهره می‌برد، تنها بخشی از مدل در هر لحظه فعال است. این رویکرد باعث می‌شود عملکرد سیستم حتی در پردازش‌های سنگین نیز قابل قبول باقی بماند و در تست‌ها به سرعت ۱۵ توکن بر ثانیه دست یابد. این پلتفرم همچنین از طیف وسیعی از فرمت‌های کوانتیزه‌سازی مدل مانند GGUF پشتیبانی می‌کند که انعطاف‌پذیری بالایی را برای کاربردهای مختلف فراهم می‌آورد.

پنجره زمینه (Context Window) بزرگ برای انجام وظایف پیچیده

یکی از مهم‌ترین بهبودهای این به‌روزرسانی، پشتیبانی از پنجره زمینه بسیار بزرگ است. در حالی که اکثر مدل‌های هوش مصنوعی محلی به پنجره زمینه ۴۰۹۶ توکنی محدود هستند، این پلتفرم با فعال‌سازی Flash Attention و Q8 KV Cache می‌تواند این محدودیت را تا ۲۵۶,۰۰۰ توکن افزایش دهد. چنین پنجره وسیعی، امکان انجام وظایف بسیار پیشرفته‌تری مانند تحلیل و خلاصه‌سازی کامل اسناد حجیم را فراهم می‌کند.

برای کاربران عادی، تنظیم یک پنجره زمینه ۳۲,۰۰۰ توکنی با یک مدل کوچک‌تر برای کارهای روزمره کافی خواهد بود. اما برای کارهای پیچیده که نیازمند استقاده ابزارهای متعدد یا پردازش حجم بالایی از توکن‌ها هستند، سخت‌افزار قدرتمند ضروری است. دقیقاً همین‌جاست که سیستمی با پردازنده Ryzen AI Max+ 395 و ۱۲۸ گیگابایت رم ارزش خود را نشان می‌دهد.

در همین رابطه بخوانید:

– AYANEO NEXT 2 با پردازنده Strix Halo معرفی شد؛ هیولایی ۱۶ هسته‌ای در دستان شما

– اولین نگاه به پردازنده گیمینگ انویدیا برای لپ‌تاپ؛ رقیب Strix Halo در راه است؟

متأسفانه در حال حاضر سیستم‌های مجهز به پردازنده‌های Strix Halo با ۱۲۸ گیگابایت حافظه بسیار گران‌قیمت بوده و حداقل ۲۰۰۰ دلار هزینه دارند. اما کاربرانی این پردازنده‌ها را در اختیار دارند، هم‌اکنون می‌توانند نسخه پیش‌نمایش درایور جدید را برای فعال‌سازی این قابلیت‌ها از این لینک دانلود کنند.