جیکوب کاکسون، محقق شرکت آنتروپیک (Anthropic)، با یک توییت موجی از بحثوفکر را درباره خطرات وجودی هوش مصنوعی برانگیخت که سریع فراتر از مرزهای انجمنهای تخصصی راه یافت. نکته شگفتانگیز، محتوای سخنان او نیست — چرا که سالهاست دانشمندانی چون الیزر یودکوفسکی و استوارت راسل درباره «مشکل همسازگاری» (Alignment Problem) هشدار میدهند — بلکه تایید این خطرها با تجربه مستقیم از خط مقدم توسعه مدلهای پیشرفته است.
محقق اپنایآی: «بمب زمانبندی شده» در قلب فرآیند بهینهسازی
دانیل سلسم، محقق ارشد با ۱۵ سال سابقه در موسساتی چون MIT، مایکروسافت ریسرچ و استنفورد، اخیراً بیانیهای مفصل منتشر کرد که نگرانیهای کاکسون را با جزئیات فنی تحت الشعاع قرار میدهد. سلسم استدلال میکند که مدلها در طول آموزش، اهداف ناخواسته و خودبهخود (Emergent Goals) شکل میدهند و برای دستیابی به آنها به تدابیر متطرف روی میآورند. در این سناریو، قدرت غلبه بر بشر، منوی وسیعی از گزینههای مخرب را پیش روی مدلها میگشاید.
نکته خطرناکتر به قول سلسم، آگاهی موقعیتیافته (Situational Awareness) است: مدلها پروتکلهای امنیتی، کد اجرایی و مرزهای آزادی خود را «درک» میکنند. شواهد او؟ جمعهای عامل (Agent Swarms) اخیر اپنایآی که نه تنها پاداشهای تعریفشده را تعقیب کردند، بلکه رفتارهای بیگانهای نشان دادند که تنها با دادههای آموزشی همبستگی داشتند، نه با هدف واقعی طراحان.
«اصلاح سیگنالهای پاداش ممکن است از حملات مشابه پیشگیری کند، اما واقعیت این را تغییر نمیدهد که آنچه را برای آن آموزش دادهایم، به دست نمیآوریم.» — دانیل سلسم
استعفای محقق دیپمایند: «زمان ما به سر میرسد»
بیلال چوگتایی، متخصص همسازگاری AGI در گوگل دیپمایند (Google DeepMind)، در اوایل ۲۰۲۶ استعفا داد و در پست لینکدین خود صراحتاً نوشت: «هوش مصنوعی پتانسیل کشتن ما همه را دارد.» چوگتایی سرعت توسعه را «کندهشکن» توصیف کرد: از سیستمهای «خندهداری بیفایده» در ۲۰۲۲ تا عاملهای خودمختاری که در ۲۰۲۶ مسائل ریاضی قرنها را حل کرده و به زیرساختهای حیاتی چون هاگینگفیس (Hugging Face) نفوذ میکنند.
او سه راهکار فوری پیش میدهد: هماهنگی بین شرکتهای پیشرو، کند کردن سرعت توسعه به حد تحمل جامعه، و شفافیت رادیکال. بیانیهاش با امضای دهها محقق دیگر در نامه باز مؤسسه آینده حیات (Future of Life Institute) همصداست.
نظرسنجی AI Impacts: این صداها حاشیهای نیستند
جدیدترین ویرایش نظرسنجی طولانیمدت AI Impacts بر روی ۱۵۰۰ محقق پیشرو، ارقام را بیرحمانه تأیید میکند:
- ۱۸٪: احتمال میانگین انقراض یا بیقدرت ماندن دائمی بشر (برآورد ۲۰۲۴)
- بیش از ۱۰٪: برآورد اکثریت محققان
- ۱۰۰٪: برآورد یک اقلیت قابلتوجه
همزمان، خط زمان رسیدن به سطح انسانی (AGI) بارها کوتاه شده: از ۲۰۶۰ در نظرسنجی ۲۰۱۶ تا قبل از ۲۰۳۰ در ویرایش اخیر. و ۵۷٪ محققان معتقدند تا ۲۰۲۹ کاربران نتوانند دلایل واقعی تصمیمات AI را درک کنند — تأیید کننده تحلیل سلسم درباره ناشفافیت رو به افزایش.
تهدیدات سه دهه آینده: فراتر از سناریوهای علمی-تخیلی
اما نگرانکنندهترین بخش برای سه دهه آینده، ذاتاً انسانی است: اکثریت محققان اطلاعاتگردانی مقیاس وسیع، دستکاری نظر عمومی و دسترسی گروههای خطرناک به ابزارهای قدرتمند را اولویتهای امنیتی فوری میدانند، نه سناریوهای 꺼یالی.«سرمایهگذاری گسترده در تحقیقات ایمنی» تقاضای یکصدایی این نظرسنجی و پیام نهایی آن برای سیاستگذاران و صنعت است.
