دو محقق ارشد امنیت از آمریکا و چین در گزارشی مشترک، خطوط قرمزی ترسیم کردهاند که هوش مصنوعی را از هرگونه تصمیمگیری مستقل در حوزه سامانههای هستهای و زیرساختهای حیاتی منع میکند. این پیشنهاد، تلاش مشترک موسسه بروکینگز و دانشگاه فودان شانگهای است و بیواسطه به رییسجمهوران دونالد ترامپ و شی جینپینگ خطاب شده تا اصل «کنترل انسانی» بر سلاحهای هستهای را به دامنه حملات سایبری علیه سامانههای فرماندهی، کنترل و ارتباطات هستهای (NC3) بسط دهند.
چرا الان؟ خطر سرعت و بییکتی الگوریتمها
سامانههای NC3 مغز و سیستم عصبی بازدارندگی هستهایاند: آنها تهدیدات را رصد میکنند، گزینههای واکنش را به رهبران ارائه میدهند و دستورات شلیک را انتقال میدهند. هر گرهای در این زنجیره — از خوانداشتباه دادههای سنسور تا قطعی ارتباطات — میتواند به ضربه اول غیرعمد یا شلیک غیرمجاز منجر شود. محققان هشدار میدهند که ادغام مدلهای هوش مصنوعی با سرعت تصمیمگیری در مقیاس میلیثانیه، حاشیه امنیت را به صفر میرساند و به رهبران فرصت بازبینی یا وتو (Veto) نمیدهد.
شواهد تجربی: وقتی مدلها دکمه قرمز را میزنند
نگرانیهای نظری در فوریه امسال به شواهد تجربی تبدیل شدند. در سری بازیهای جنگی (Wargames) که توسط محققان مستقل طراحی شده بود، مدلهای پیشرو اوپنایآی، گوگل دیپمایند و آنتروپیک در ۹۵ درصد سناریوها از سلاحهای هستهای استفاده کردند. اگرچه طراحان شبیهسازی تدبیر کرده بودند که محیط تست ممکن است انگیزه تصعید دهد، اما الگوی تکرارشدهی انتخاب گزینه هستهای زنگ خطر را برای سیاستگذاران به صدا در آورد.
مقاومت صنعت در برابر کاربرد نظامی کامل
در همان ماه فوریه، آنتروپیک از حذف محدودیتهای امنیتی مدل کلود (Claude) برای نظارت انبوه و تسلح کاملاً خودمختار، به درخواست پنتاگون، امتناع کرد. واکنش واشنگتن سریع بود: ترامپ دستور داد آژانسهای فدرال از تکنولوژی آنتروپیک استفاده نکنند، اما قاضی فدرال در ۲۸ اوت (۷ شهریور) حکم صادر کرد که این اقدام «انتقامی و غیرقانونی» بوده است. این پرونده نشان میدهد که مرز بین امنیت ملی، تنظیمات تجاری و اخلاقیات هوش مصنوعی چقدر پیچیده و حساس شده است.
فراخوان برای «کند کردنِ برنامهریزیشده و هماهنگ»
واکنش صنعت به رویدادهای اخیر فراتر از یک شرکت رسید. داریو آمادی، مدیرعامل آنتروپیک، در اوایل سپتامبر از توسعهدهندگان خواست پیشرفت قابلیتها را بهصورت هماهنگ و تدریجی کند کنند — موضعی که بلافاصله حمایت سام التمن (مدیرعامل اوپنایآی) و ایلان ماسک (مالک xAI) را به همراه داشت. اوپنایآی حتی از کنگره پرسید آیا شرکتها میتوانند بدون نقض قوانین منع انحصار، یک «کند کردن هماهنگ» را تدبیر کنند. تا این لحظه هیچ مکانیزم ملزمی برای این منظور وجود ندارد.
اقدام بلافاصله: قانون باریک، قابل اجرا، دوطرفه
با نبود توافق کلان بر کند کردن توسعه، نگارندگان بروکینگز یک قاعدهی محدود اما سختگیرانه پیشنهاد میدهند: تنها انسانها مجازند حملات به سامانههای NC3 یا استفاده از سلاحهای هستهای را مجوز دهند. این قاعده نیازی به توافق بر تمام اصول امنیت سایبری ندارد؛ صرفاً اصل پاسخگویی انسانی را برای اثرات استراتژیک تکمیل میکند. در کنار آن، محققان بر دو مکانیزم عملی تأکید دارند:
- برقراری خط تلفن مستقیم نظامی برای هوش مصنوعی (Military AI Hotline) جهت ارتباط فوری در مواقع بحران.
- تعریف مشترک و شفاف از «کنترل انسانی معنادار» (Meaningful Human Control) تا ابهام در ردههای تصمیمگیری رفع شود.
«حکمرانی هوش مصنوعی نظامی مذاکرهای نیست که بتواند صبر کند — این یک مسابقه با زمان است»، نویسندگان گزارش در پاراگراف پایانی تأکید کردهاند. در دنیایی که الگوریتمها در جیبهایی از قدرت هستهای نفوذ کردهاند، تنها تضمین بقا، حفظ اختیار نهایی در دست انسان است.
