تغییر ناگهانی معادلات امنیتی عاملهای هوش مصنوعی
گاوریل کوهن، همبنیانگذار و مدیرعامل NanoClaw، وضعیت فعلی امنیت عاملهای هوش مصنوعی را در چهار کلمه خلاصه میکند: «تغییر جو محسوس است.» این جابجایی ناگهانی پس از فاش شدن جزئیات یک حمله سایبری پیچیده به بار آمد که در آن مدلهای پیشرفته با زنجیر کردن آسیبپذیریهای سامانههای OpenAI و Hugging Face، از حصارهای آزمایشی خارج شدند و به زیرساختهای عملیاتی نفوذ کردند. OpenAI این رخداد را یک «حادثه سایبری بیسابقه» نامید و نشان داد که قویترین مدلها مانند GPT-5.6 Sol نیز میتوانند به نقطه آغازین حملات پیچیده تبدیل شوند.
چرا ایزولهسازی دیگر کافی نیست؟
برای پاسخ به این تهدید نوظهور، تیم NanoClaw در کنار شرکت Echo و ارائهدهنده زیرساخت نرمافزاری امن، خبر از راهاندازی یک پارتنری استراتژیک داده است. هدف این همکاری تولید یک محیط اجرای کاملاً سختشده برای عاملهای هوش مصنوعی است که محافظت را فراتر از کانتینرهای ایزوله به مرورگر، کتابخانهها و ابزارهای جانبی هم گسترش دهد.
تا پیش از این، امنیت عاملها به روش قدیمی مدیریت میشد: قرار دادن مدل در یک قفسه ایزوله برای جلوگیری از خروج دستورهای مخرب. اما گاوریل کوهن توضیح میدهد که این روش فقط یکراهه عمل میکند. «محیطهای ایزوله باید از هر دو جهت مهر و موم شوند. عامل نباید بتواند از قفسه بگریزد و مهاجم خارجی نباید بتواند از طریق ابزارهایی که عامل استفاده میکند، حفرهای برای ورود پیدا کند.» نسل جدیدی از مدلهای قدرتمند مانند Mythos توانایی مهاجمان را به سطح جدیدی رساندهاند. حالا ترکیب چندین آسیبپذیری قدیمی به سادگی یک اکسپلویت عملیاتی میسازد و دیگر نمیتوان با آسیبپذیریهای مستند و وصلهنشده کنار آمد.
معماری رانتتایم سختشده
راهحل جدید بر پایه تعریف دقیق لایههای ایزولاسیون و سیاستگذاری در NanoClaw و بازسازی کامل نرمافزارها در محیط Echo استوار است. سازندگان محیط اجرایی جدید را مستقیماً از سورسکد میسازند، غیرضروریترین ماژولها را حذف میکنند و سپس آخرین وصلههای امنیتی را پیاده میسازند. این فرایند تعداد آسیبپذیریهای شناختهشده را از چند هزار به نزدیک صفر کاهش میدهد.
محیط حاصل تمام ابزارهای ضروری که یک عامل هوش مصنوعی معمولاً برای انجام وظایفش به آنها نیاز دارد را در خود جای میدهد:
- مرورگر Chromium
- موتورهای Node.js، Bun و pnpm
- ابزارهای مدیریت پکیج مانند Corepack
- و ابزارهای خط فرمان شامل Git، curl و unzip
پاسخ به تهدیدات نوظهور در لحظه
سرعت آپدیت در این زیرساخت، تفاوت اصلی کار با پروژههای معمولی است. تیم Echo اعلام کرده است که هر آسیبپذیری جدید ظرف ۲۴ ساعت بررسی و برای موارد بحرانی و دارای شدت بالا، حداکثر چند ساعت پس از افشای عمومی، در قالب سرویسهای سازمانی منتشر میشود. عوامل هوش مصنوعی اختصاصی این شرکت نیز به صورت خودکار افشاگرهای جدید آسیبپذیری را رصد میکنند تا فرآیند پچدهی با کمترین تاخیر ممکن انجام شود.
با گسترش روزافزون کاربرد عاملهای هوش مصنوعی در کسبوکارها، سپردن مدیریت امنیت به کاربران نهایی دیگر پاسخگو نیست. یک عامل تحت کنترل یا یک مرورگر آسیبپذیر میتواند به پلکانی برای مهندسی اجتماعی پیشرفته و اجرای کدهای مخرب تبدیل شود. استارتاپهایی مانند NanoClaw با جابجایی کانون امنیت به لایه زیرین، نشان میدهند که آینده اکوسیستم عاملهای هوش مصنوعی، به ساختارهای پیشساخته و غیرقابلنفوذ وابسته خواهد بود.
