ویشال ماینی، عضو سابق تیم ارتباطات و سیاست دیپمایند، برای اولین بار پرده از یک سیاست داخلی سختگیرانه برمیدارد: از سال ۲۰۱۸ تا ۲۰۲۲، هرگونه گفتگو در مورد احتمال انقراض بشر ناشی از هوش مصنوعی به طور کامل ممنوع بود. این ممنوعیت تنها محققان را در بر نمیگرفت؛ «به هیچکسی، در هیچ سطحی از سازمان» اجازه داده نمیشد این موضوع را در محافل عمومی مطرح کند.
استراتژی انکار: از «ترساندازی» به «ترمینیتور»
به روایت ماینی، محققان آموزش دیده بودند که هر نگرانی وجودی را با برچسب «ترساندازی» باطل کنند. تکنیک پیشفرض، مقایسه این ریسکها با سینماهای علمی-تخیلی مانند ترمینیتور بود تا ذهن مخاطب را به سمت بیاساسی بودن آنها سوق دهد. بلافاصله پس از رد نگرانی، مکالمه باید به سمت کاربردهای مثبت — درمان بیماریها، مقابله با تغییر اقلیم و پیشرفتهای علمی — هدایت میشد.
درون سازمان: شکاف بین علم و پیامد
در پشت صحنه، تصویر متفاوتی نقاشی میشد. تیمهای فنی به خوبی میدانستند که مسئله ترازبندی هوش مصنوعی (AI Alignment) همچنان حل نشده است. ماینی تصریح میکند: «تعداد خیلی کمی از افراد روی این مسئله حیاتی کار میکردند.» این شکاف عمیق بین دانش داخلی و روایتی که به بیرون سازمان عرضه میشد، ماهها تداوم یافت تا اینکه فشارهای داخلی به نقطه اوج خود رسید.
ممانعت به چانهزنی تبدیل شد
پس از ماهها اعتراضهای درونی، مدیریت دیپمایند محدودیتها را شل کرد. محتوای ایمنی با نگاه «مثبت» مجاز شد، از جمله یک پست وبلاگ که خطر انقراض را در بستر یک زبان دوستانه و غیرتهدیدی قرار میداد. ماینی معتقد است این فاصله اکنون در حال کوچکتر شدن است، «چون شواهد دیگر سختتر برای انکار کردن شدهاند.»
موج جدید شفافیت در جامعه محققان
افشای ماینی در فضایی رخ میدهد که تعداد فزایندهای از محققان ایمنی هوش مصنوعی — از جمله کارکنان فعلی دیپمایند — به طور عمومی در مورد ریسکهای وجودی هشدار میدهند. نگرانیهای فعلی روی دو محور اصلی متمرکز شدهاند:
- مدلهای ناامنی که میتوانند اقدامات خطرناک (مانند طراحی سلاحهای بیولوژیک یا حملات سایبری) را تسهیل کنند.
- سیستمهای پیشرفتهای که ممکن است از کنترل و نظارت انسان فرار روند و اهداف خودمختارانهای را تعقیب کنند.
این رویداد نشان میدهد سیاستهای ارتباطی شرکتهای پیشرو چگونه میتواند سالها واقعیتهای فنی را از چشم عموم پنهان نگاه دارد — تا اینکه وزن شواهد، ادامه انکار را غیرممکن میسازد.
