پس از شایعات متعدد و انتقادها پیرامون AI Agents در ویندوز 11، شرکت مایکروسافت تأیید کرده که عاملهای هوش مصنوعی این نسخه از سیستمعامل ویندوز مستعد خطاهای ادراکی و حملات امنیتی هستند. این موضوع نگرانیهای تازهای درباره تصمیم مایکروسافت برای تبدیل ویندوز به یک «سیستمعامل عاملمحور» ایجاد کرده و بحثهای زیادی را میان کاربران و متخصصان امنیت به راه انداخته است.
مایکروسافت طی ماههای اخیر بارها اعلام کرده که مسیر تحول ویندوز 11 بهسمت یک «رایانه هوش مصنوعی» قطعی شده است. در این مدل جدید، عاملها با حسابهای کاربری جداگانه و سطح دسترسی کنترلشده در پسزمینه فعالیت میکنند و از طریق زبان طبیعی، کارهایی مانند اجرای برنامهها، تنظیم اسناد، تحلیل تصاویر، جستوجو، خرید اینترنتی و مدیریت وظایف چندمرحلهای را انجام میدهند.
کوپایلوت همچنان درگاه اصلی ارتباط با این عاملها است و کاربران میتوانند فعالیت آنها را همانند یک برنامه معمولی از نوار وظیفه تحتنظر داشته باشند.
تأیید رسمی مایکروسافت درباره ریسکهای AI Agents
بنابر گزارش Windows Latest، شرکت مایکروسافت با انتشار جدیدترین اسناد امنیتی و نسخه پیشنمایش ویندوز 11، عملاً تأیید کرده که «عاملهای هوش مصنوعی» (AI Agents) این سیستمعامل میتوانند دچار خطای ادراکی، رفتارهای غیرقابلپیشبینی و حتی حملات مخربی مانند تزریق متقاطع دستور (XPIA) شوند؛ موضوعی که نگرانیهای جدی درباره آینده ویندوزِ مبتنی بر هوش مصنوعی ایجاد کرده است.
با وجود این خطرها، ویژگی «قابلیتهای عاملمحور آزمایشی» (Experimental Agentic Features) اکنون برای کاربران نسخههای پیشنمایش در دسترس قرار گرفته و ویندوز 11 بیش از هر زمان دیگر به سمت یک «سیستمعامل عاملمحور» حرکت میکند.
اما همین معماری تازهوارد، تهدیدهای قابلتوجهی نیز ایجاد کرده است. مایکروسافت در مستندات رسمی هشدار میدهد:
مدلهای هوش مصنوعی ممکن است دچار خطای ادراکی شده، خروجیهای غیرمنتظره تولید کنند و در برابر حملاتی مانند XPIA آسیبپذیر باشند؛ حملاتی که از طریق محتوای فریبدهنده موجود در اسناد، رابط کاربری یا برنامهها، عامل را وادار به اقداماتی مانند نشت اطلاعات یا نصب بدافزار میکنند.
اصول امنیتی مایکروسافت برای مهار ریسک عاملها
مایکروسافت برای کاهش ریسک، اصول «امنیت و حریم خصوصی عاملمحور» را معرفی کرده که شامل ایجاد حسابهای جداگانه برای عاملها، سطح دسترسی محدود، ثبت کامل فعالیتها، و دسترسی «جزئی، مشخص و زمانمند» به اطلاعات حساس است. همچنین عاملها اجازه تعامل با یکدیگر را ندارند و تنها کاربر مالک سیستم میتواند آنها را کنترل کند.
با این حال، منتقدان میگویند حتی بهترین سناریو هم وقتی با AI Agents انجام شوند، میتواند به جای فایده برای شما مشکلآفرین باشد. بهجای اجرای مستقیم یک کار با چند کلیک، کاربر باید مجموعهای از عاملها را هدایت کند تا شاید یک وظیفه ساده (مثل ارسال یک ایمیل) بهدرستی انجام شود. از سوی دیگر، سابقه ویژگیهایی مانند Recall نشان داده که هر خطای امنیتی یا طراحی میتواند بهسرعت اعتماد کاربران را متزلزل کند.
آیندهای با ابهام؛ چه کسی AI Agents را فعال خواهد کرد؟
آنچه حالا روشن شده، این است که مایکروسافت آینده ویندوز را بر پایه عاملهای هوش مصنوعی بنا کرده و امیدوار است کاربران همراه این مسیر حرکت کنند. با این حال، تا وقتی که این قابلیتها در وضعیت آزمایشیاند و خود شرکت خطرهای جدی آنها را تأیید میکند، سؤال مهم ما از همه کاربران حرفهای ویندوز 11 پابرجاست: چه کسی حاضر است ویژگیهای AI Agents را فعال کند؟
source