چهل و دو نفر از برجسته‌ترین ریاضیدان جهان، از جمله سه برنده مدال فیلدز، در نامه‌ای باز به رئیس انجمن سلطنتی لندن هشدار دادند: پیشرفت‌های اخیر در هوش مصنوعی پیش از انتظار به سطحی رسیده که می‌تواند تهدید وجودی برای بشریت باشد. این گروه دانشمند — که هیچ‌کدام وابستگی مالی یا سازمانی به شرکت‌های هوش مصنوعی ندارند — از آکادمی علوم بریتانیا تقاضا کرده‌اند بلافاصله دولت و رسانه‌ها را نسبت به ابعاد این خطر آگاه سازد.

وقتی هوش مصنوعی مسائل هزاره را حل می‌کند

نقطه عطف این هشدار، عملکرد شگفت‌انگیز مدل‌های پیشرو در تنها سه ماه اخیر است. سیستم‌های توسعه‌یافته توسط اپن‌ای‌آی و آنتروپیک توانسته‌اند مسائل تحقیقاتی باز و یکی از هفت مسئله جایزه هزاره را حل کنند — و احتمالاً مسئله دوم نیز در راه است. بر اساس متن نامه، این مدل‌ها اکنون «در سطح ریاضیدانان برتر در بسیاری از بخش‌های این علم» کار می‌کنند و با «احتمال قابل توجهی» قابلیت‌های فرابشری را در بازه زمانی مشابهی خواهند کسب.

ریاضیات تنها آغاز است: امنیت سایبری، تسلیحات و بیوتکنولوژی در خط مقدم

امضاکنندگان — از جمله مارتین هریر، پتر شولزه و وندلین ورنر — تأکید می‌کنند که تأثیر بر ریاضیات انگیزه اصلی نامه نبوده است. آن‌ها به صراحت هشدار می‌دهند: «باید فرض کنیم نرخ تغییر قابلیت‌های آن‌ها در حوزه‌های زیر، مشابه ریاضیات خواهد بود»:

  • امنیت سایبری:识破 و استثمار خودکار آسیب‌پذیری‌های پیچیده.
  • تسلیحات خودمختار: تصمیم‌گیری 살인ی بدون نظارت انسان.
  • توسعه عوامل بیولوژیک و شیمیایی: طراحی سموم یا ویروس‌های جدید با سرعت و دقت بالا.
  • اطلاعات‌کاذب هدفمند: مهار ناپذیر کردن واقعیت در مقیاس جهانی.

برآوردهای بالای ده درصد: این «هیپ» نیست، واقعیت است

عملگاه‌های پیشرو هوش مصنوعی احتمال بروز خطر وجودی را بالای ده درصد برآورد می‌کنند. ریاضیدانان این برآوردها را «هیپ» یا تبلیغاتی نمی‌دانند و می‌نویسند: «تا زمانی که وضعیت برای عموم مردم آشکار شود، ممکن است برای اقدام بسیار دیر شده باشد.» این جمله، وحشتناک‌ترین بخش نامه است: پنجره فرصت برای مدیریت و کنترل این فناوری در حال ب شدن است.

استقلال نظر، اعتبار هشدار

نکته تفکیک‌کننده، استقلال کامل امضاکنندگان است. هیچ‌کدام از این ۴۲ ریاضیدان برتر، که در ارگان‌های علمی مرموقی نظیر انجمن سلطنتی عضویت دارند، وابستگی به گיגانت‌های فناوری ندارند. این واقعیت، حرف آن‌ها را از بحث‌های تجاری جدا می‌کند و به یک هشدار علمی محض تبدیل می‌کند که بی‌تأثیر از منافع اقتصادی است.

نامه باز این گروه اکنون در دسترس عموم قرار دارد و انتظار می‌رود در روزهای آینده واکنش‌های گسترده‌ای در میان سیاست‌گذاران و جامعه علمی به دنبال داشته باشد.