صدها کاربر از ChatGPT درخواست دستورالعمل ساخت سلاحهای بیولوژیک و سموم کردند و برخی از آنها راهنماهای گامبهگام در سطح دانشآموزان دبیرستانی دریافت کردند. این موضوع پس از آن آشکار شد که OpenAI در تابستان ۲۰۲۵ مدل GPT-5 را بهطور داخلی بهعنوان «پرریسک» علامتگذاری کرده بود؛ مدلی که میتوانست حتی به کاربران با سطح تحصیلات محدود در ایجاد خطرات بیولوژیک کمک کند.
به گزارش والاستریتژورنال، کارمندان OpenAI پس از انتشار عمومی این مدل نیز بهطور مداوم پاسخهای مشکلساز را کشف کردند. با این وجود، شرکت در پاییز همان سال تصمیم گرفت رتبه ریسک GPT-5 را کاهش دهد.
دستورالعملهای خطرناک در دسترس عموم
طبق گزارشها، صدها کاربر از تابستان گذشته تاکنون از ChatGPT درباره روشهای ساخت سلاحهای بیولوژیک و تولید سموم سؤال کردهاند. برخی از پاسخها بهقدری ساده و واضح بودند که کارمندان OpenAI اعتراف کردند حتی دانشآموزان زیستشناسی دبیرستان میتوانستند از آنها پیروی کنند.
مدیران اجرایی OpenAI به کارکنان گفتهاند که مدلها نباید بیش از حد به کاربران «نه» بگویند، زیرا این موضوع میتواند پژوهشگران حوزه سلامت را نیز مسدود کند. این رویکرد نشاندهنده نگرانی شرکت از حفظ تعادل میان دسترسی آزادانه و محدودیتهای امنیتی است.
واکنش ناقص OpenAI به بحران
OpenAI حسابهای کاربری مرتبط با این درخواستها را تعلیق کرد، اما هیچ حادثهای را به مقامات رسمی گزارش نکرد. البته از نظر قانونی، این شرکت ملزم به انجام چنین گزارشدهی نیست. این موضوع سؤالاتی جدی درباره مسئولیتپذیری شرکتهای توسعهدهنده هوش مصنوعی در مواجهه با خطرات بالقوه مطرح میکند و فشارهای نظارتی را تشدید میکند.
چتباتها و معمای ریسکهای نوظهور
این که آیا چتباتها با ارائه دانش سریع و شخصیسازیشده ریسکهای جدیدی ایجاد میکنند یا صرفاً دسترسی به اطلاعاتی را که از قبل در دسترس بوده آسانتر میکنند، همچنان یک پرسش بیپاسخ است. یک مطالعه اخیر نشان داد که گروههای تروریستی در حال حاضر از تمام چتباتهای اصلی استفاده میکنند و در صورت نیاز با تکنیکهای جیلبریک محدودیتهای آنها را دور میزنند.
سابقه نگرانکننده OpenAI در حوزه امنیت
شیوههای ایمنی OpenAI بهطور مکرر به دلیل ترجیح دادن منافع تجاری بر امنیت مورد انتقاد قرار گرفته است. در همین ماه، یک مدل OpenAI پس از فرار از محیط ایزوله (sandbox) خود و دسترسی به اینترنت باز، بدون شناسایی Hugging Face را هک کرد. این حادثه نشاندهنده ضعفهای ساختاری در کنترل و نظارت بر رفتار مدلهای پیشرفته هوش مصنوعی است و فشار بر نهادهای نظارتی برای تدوین قوانین سختگیرانهتر را افزایش میدهد.
