نامه توقف و چالش مسابقه تسلیحاتی
سال ۲۰۲۳ مرزهای بحث دربارهٔ هوش مصنوعی را درنوردید. نگرانیهایی که پیشتر تنها در کنفرانسهای آکادمیک و انجمنهای تخصصی مطرح میشد، ناگهان در رسانههای اصلی جهان پژواک پیدا کرد. در عرض چند ماه، صنعت فناوری شاهد انتشار یک نامهٔ باز جنجالی، هشدارهای صریح دربارهٔ خطر انقراض ناشی از هوش مصنوعی و جنگ کلامی بر سر آینده بشریت بود. بازسازی وقایع آن سال نشان میدهد که چگونه یک درخواست ساده برای تعلیق پژوهشها به یک معادلهٔ پیچیده بین اقتصاد، تکنولوژی و حکمرانی تبدیل شد.
درخواست شفاف در برابر رقابت بیکنترل
در مارس ۲۰۲۳، موسسهٔ آیندهٔ حیات (FLI) طی نامهای با عنوان توقف آزمایشهای عظیم هوش مصنوعی، از جامعهٔ جهانی خواست مسیر توسعهٔ مدلهای پیشرفته را موقتاً متوقف کند. این سند که توسط چهرههای سرشناسی شامل ایلان ماسک، استیو وزنیاک و یوشوا بنژیو امضا شده بود، استدلال اصلی خود را خطرات پنهان برای ساختارهای اجتماعی میدانست. خواستهٔ درون نامه کاملاً شفاف بود: تمام آزمایشگاهها موظف شدند آموزش سیستمهای هوش مصنوعی قدرتمندتر از گپتی-۴ را به مدت حداقل ۶ ماه متوقف کنند. نویسندگان تأکید داشتند که این تعلیق باید شفاف، قابلتأیید و با حضور تمام بازیگران اصلی باشد. در غیر این صورت، هشدار دادند که دولتها باید مستقیماً وارد میدان شده و توقف اجباری را اعمال کنند.
چهار سؤال حیاتی برای تمدن
بخش بحثبرانگیزتر نامه، چهار پرسش استراتژیک بود که آیندهٔ جامعه را به چالش میکشید. امضاکنندگان پرسیدند آیا باید اجازه دهیم ماشینها کانالهای ارتباطی را با اخبار جعلی پر کنند؟ آیا باید مشاغل سودآور و حتی معنادار را کاملاً خودکار کنیم؟ آیا باید ذهنهایی غیرانسانی بسازیم که روزی از نظر تعداد و هوش برتری یابند؟ و آیا حاضر به پذیرش خطر از دست دادن کنترل تمدن خود هستیم؟ نامه صراحتاً اعلام میکرد که این برآوردها نباید به تصمیمگیرندگان فناوری واگذار شود. در یک حرکت هوشمندانه، نامه به بیانیههای خود شرکت اوپنایآی ارجاع داد که پیشتر هشدار داده بودند نظارت مستقل پیش از آموزش مدلهای نسل بعد ضروری است. پاسخ نامه کوتاه و در عین حال قاطع بود: ما موافقیم و این لحظه اکنون است.
فراتر از ممنوعیت؛ درخواست نظارت و کنترل
نویسندگان نامه هرگز قصد ممنوعیت پژوهشهای این حوزه را نداشتند. هدف اصلی، تغییر جهت از یک رقابت دیوانهوار به سمت مدلهای جعبهسیاه بود که قابلیتهای نوظهور غیرقابلپیشبینی ایجاد میکنند. درخواست کلیدی، ایجاد یک پنجرهٔ ۶ ماهه برای تدوین پروتکلهای ایمنی مشترک بود. این پروتکلها باید زیر ذرهبین بازبینان مستقل قرار میگرفتند تا تضمین شود سیستمهای خروجیگرفته فراتر از هر شک و تردیدی بیخطرند. این رویکرد با اصول اصول آسیلومار همسویی کامل داشت که بر برنامهریزی دقیق برای فناوریهای تغییردهندهٔ حیات تأکید میورزد.
الزامات نظارتی و چرایی عدم اجرا
راهکارهای پیشنهادی در این سند طیف گستردهای از اقدامات عملیاتی را در بر میگرفت. موارد کلیدی شامل:
- تأسیس نهادهای نظارتی تخصصی هوش مصنوعی و ردیابی پایگاههای محاسباتی کلان
- پیادهسازی سیستمهای واترمارک برای تشخیص محتوای مصنوعی از واقعی
- مسئولیتپذیر کردن توسعهدهندگان در قبال خسارات احتمالی
- حمایت مالی دولتها برای پژوهشهای ایمنی و مقابله با اختلالات اقتصادی
با وجود آنهمه جزئیات فنی و راهبردی، تعلیق مورد نظر در ژوئن ۲۰۲۳ هرگز محقق نشد. رقابت اقتصادی، فشارهای سرمایهگذاری و فقدان چارچوب حقوقی بینالمللی برای الزامآور کردن این توافق، معادله را به نفع ادامهٔ مسابقه تغییر داد. سازمانهای استاندارد در حال تدوین چارچوبهای ارزیابی ریسک هستند و نهادهای قانونگذار در اروپا در حال شکلدهی به قوانینی مانند قانونِ هوش مصنوعیِ اتحادیهٔ اروپا میباشند. سرعت پیشرفت مدلهای زبانی بزرگ همچنان افزایش مییابد، اما فشار عمومی برای شفافسازی و ایمنسازی آنها به یک استاندارد غیرقابلاجتناب تبدیل شده است. اگر سال ۲۰۲۳ ترمز دستی را روی میز گذاشت، نسل کنونی هوش مصنوعی در حال تبدیل آن ترمز به سیستمِ ترمزِ اضطراریٔ خودکار است.
