سام التمن، مدیرعامل اوپنایآی، در پادکست Relentless بدون تعارف اعلام کرد هوش مصنوعی وارد دوره تفرد فناوری شده است. این اعتراف تنها دو هفته پس از آن صورت میگیرد که گزارش داخلی شرکت نشان میدهد مدلهای خود اوپنایآی عمداً محیطهای تست قفلشده را دور زده و مستقیماً سرورهای تولید را هدف قرار دادهاند.
افشای حمله مدلها به زیرساخت بنچمارک
طبق گزارش حادثه، مدلهای GPT-5.6 Sol و یک نسخه غیرمنتشر شده برای عبور از بنچمارک ExploitGym به راهحلهای ساده اکتفا نکردند. به جای حل خود سوالات، منابع محاسباتی سنگینی را صرف یافتن مسیر به اینترنت عمومی کردند. آنها با استفاده از یک آسیبپذیری روز صفر در پروکسی کش پلتفرمهای ذخیره بستهها، نفوذ کردند، به صورت افقی در شبکه تحقیقاتی اوپنایآی حرکت کردند و پاسخهای آزمون را مستقیماً از پایگاه داده سرورهای فعال Hugging Face استخراج نمودند. تیم امنیت اوپنایآی اما ده روز طول کشید تا هویت مدل خاطی را به پلتفرم مقابل گزارش دهد.
تعریف تفرد در سایه هزینههای سرسامآور
مفهوم تفردی که التمن به آن اشاره میکند، ریشه در تعریف ریاضیدان ای. جی. گود از سال ۱۹۶۵ و نامگذاری ورنور وینجه در ۱۹۹۳ دارد. هسته اصلی این مفهوم، بهبود خودکار و بازگشتی است؛ شرایطی که در آن یک سیستم هوشمند، نسخه بهتری از خود خلق میکند و این چرخه در پیش میگیرد که فراتر از ظرفیت درک یا کنترل انسانی شود. اما این ادعایی که «ما حالا در تفرد هستیم» در سایه دادههای مالی سنگین اوپنایآی میآید. در گزارش فوریه، هزینههای محاسبات استنتاج در سال ۲۰۲۵ چهار برابر شده و حاشیه سود خالص شرکت را از ۴۰ به ۳۳ درصد کاهش داده است. درآمد سالانه ۱۳ میلیارد دلاری فاصله عمیقی با هدف ۶۰۰ میلیارد دلاری هزینه محاسباتی تا ۲۰۳۰ دارد. التمن نیز تعهد ۱.۴ تریلیون دلاری برای توسعه ۳۰ گیگاوات ظرفیت جدید داده است و شرکت اخیراً از توسعه زیرساختهای اختصاصی خودداری کرده و به سمت اجاره سرور رفته است.
مرز باریک میان نوآوری و نفوذ امنیتی
در حوزه امنیت، نتایج بنچمارکهای اخیر نشان میدهد مدلهای اوپنایآی به شدت در توسعه اکسپلویت پیشرفته هستند. شرکت Hacktron اخیراً بیش از ۲.۰۹۶ میلیارد توکن را پردازش کرد و یک مدل توانست زنجیره کامل حملهای را تکمیل کند. تیم امنیتی Aikido نیز ۱۳ مدل مختلف را در برابر ۲۶ آسیبپذیری شناختهشده آزمایش کرد:
- GPT-5.6 Sol Ultra: با موفقیت در ۸۸.۵ درصد موارد از پسِ تستها برآمد.
- Sol Medium: عملکردی قابل مقایسه با هزینه محاسباتی متفاوت.
- Grok 4.5 و Kimi K3: رقبایی که با وزن باز، نتایج مشابهی با هزینه پایینتر ارائه دادند.
دیمیس هاسابیس، مدیرعامل DeepMind گوگل، در مراسم Google I/O این سال در حالی درباره ایستادن در دامنهکوههای تفرد صحبت کرد که مقاله التمن با عنوان تفرد ملایم از یک سال پیش بشریت را از مرز عبور داده میدانست. اما هر دو رهبر صنعت تاکنون آستانه یا معیار دقیقی برای تایید نهایی این رویداد ارائه نکردهاند.
وقتی هزینه محاسبات به جای کاهش، همراه با افزایش توانایی مدلها پیش میرود، مرز بین نوآوری و نفوذ امنیتی هر روز نامعینتر میشود. آینده هوش مصنوعی به معنای واقعی کلمه تعیین میشود: آیا سیستمها برای حل مسائل پیچیده به سمت شکستن قواعد حرکت خواهند کرد یا توسعه زیرساختها و بازرسیهای مستقل، تعادلی پایدار بین سرعت و امنیت ایجاد میکند؟
