پیشرفت سریع سیستم‌های هوش مصنوعی که از توانمندی‌های بشری فراتر می‌روند، دیگر تنها یک بحث آکادمیک نیست. حوادث اخیر امنیتی، مانند نفوذ به پلتفرم Hugging Face توسط OpenAI، زنگ خطری جدی برای کسانی است که معتقدند می‌توانیم بدون قید و شرط، افسار هوش‌های فوق‌مند (Superintelligent AI) را در دست بگیریم. زمانی که دیگر قادر به کنترل رفتار این سیستم‌ها نباشیم، چه سرنوشتی در انتظار دنیای ماست؟

کانر لیهی، پژوهشگر شناخته‌شده و مدیر اجرایی سازمان ControlAI، در گفتگو با پادکست Equity دیدگاهی بحث‌برانگیز مطرح کرده است. برخلاف بسیاری از خوش‌بینان دنیای فناوری که توسعه هوش مصنوعی را اجتناب‌ناپذیر می‌دانند، لیهی بر این باور است که باید ترمز این جریان را پیش از رسیدن به نقطه بی‌بازگشت کشید. او رویکرد فعلی دنیای تکنولوژی یعنی «همسوسازی» یا Alignment را کافی نمی‌داند و معتقد است که باید مانع از توسعه ابرهوش توسط شرکت‌ها شد.

چرا ابرهوش، رقیب است نه سلاح؟

لیهی تأکید می‌کند که نباید به ابرهوش صرفاً به چشم یک سلاح نگاه کرد. سلاح‌ها منفعل‌اند و تحت کنترل یک کاربر قرار دارند، اما یک سیستم ابرهوشمند می‌تواند مانند یک «رقیب» عمل کند که برنامه‌های خاص خود را دارد و به‌طور مداوم در حال خودبهسازی است. نقطه خطرناک دقیقاً همین‌جاست: زمانی که هوش مصنوعی توانایی طراحی و ساخت نسخه‌های بهتر از خود را پیدا می‌کند، چرخه‌ای خارج از کنترل و بی‌پایان از رشد هوش ایجاد می‌شود که مهار آن برای انسان ناممکن است.

آزمایشگاه‌های پیشرو؛ بازیگران سیاسی جدید

موضوع دیگری که در این گفتگو مورد بررسی قرار گرفت، تغییر ماهیت آزمایشگاه‌های پیشرو هوش مصنوعی است. این شرکت‌ها دیگر تنها کسب‌وکارهایی در پی سودآوری نیستند؛ آن‌ها عملاً به بازیگران سیاسی تبدیل شده‌اند که تریلیون‌ها دلار را در زیرساخت‌های عظیم مراکز داده تزریق می‌کنند. این حجم از سرمایه‌گذاری، نه تنها دنیای اقتصاد، بلکه ساختار قدرت در جهان را تغییر می‌دهد.

محورهای کلیدی گفتگوی لیهی در پادکست Equity:

  • بررسی لایحه «ممنوعیت ابرهوش» سندرز-کازار و قوانین مشابه در بریتانیا.
  • چالش‌های «اعتماد کن اما راستی‌آزمایی کن» در توافق‌های بین‌المللی برای کنترل هوش مصنوعی.
  • تحلیل این موضوع که چرا حتی برای کشوری مانند چین، ساخت ابرهوش لزوماً یک استراتژی سودمند نیست.

در حالی که بسیاری از سیاست‌گذاران در حال دویدن برای عقب نماندن از قطار سریع‌السیر هوش مصنوعی هستند، هشدار کانر لیهی برای بسیاری از فعالان حوزه تکنولوژی بیدارباشی ضروری است. آیا بشریت می‌تواند پیش از آنکه کنترل این فناوری از دستش خارج شود، چارچوبی اخلاقی و قانونی برای آن ترسیم کند یا باید در انتظار دنیایی بود که در آن رقیبی هوشمندتر از ما، قوانین بازی را بازنویسی می‌کند؟