OpenAI یک شبکهٔ سازمانیافتهٔ نفوذ روسی را شناسایی کرد که از ChatGPT برای تولید پستهای شبکههای اجتماعی و القای روایتهای طرفدار کرملین در کشورهای غربی استفاده میکرد. این شبکه پس از تشخیص، با مسدودسازی خوشهای از حسابهای ChatGPT مختل شد.
شیوهٔ کار شبکه: پنهانکاری زبانی و هویت جعلی
اپراتورهای این کمپین از خاک روسیه از طریق VPN به سرویس دسترسی پیدا میکردند و از مدل میخواستند «هرگونه نشانهٔ زبانی» که میتوانست منشأ روسی را نشان دهد حذف یا پنهان شود. هدف اصلی ترویج «مؤسسه بینالمللی برک» (International Burke Institute یا IBI) بود؛ اندیشکدهای که بهصورت جعلی در اسرائیل مستقر نشان داده میشد و محتوای آن عمدتاً جهتدهیشده به نفع مواضع روسیه بود.
کپیکاری گسترده و جعل هویت نویسندگان
بر اساس بررسیهای OpenAI، از مجموع 36 مقالهٔ منتشرشده به نام «کارشناسان» توسط IBI بین سپتامبر 2025 تا مه 2026، 34 مقاله از منابع دیگر کپی شده بودند و در برخی موارد اعتبار نویسنده بهصورت جعلی الصاق شده بود. برای نمونه، متنی از Cambridge University Press به اشتباه به یک استاد دانشگاه ناتینگهام نسبت داده شد و مقالهای از Migration Policy Institute به یک استاد شیمی غذا در استرالیا منتسب شد.
گسترهٔ انتشار و زیرساختِ قابل مقیاس
محتوا در پلتفرمهایی مانند X (توئیتر سابق)، لینکدین، فیسبوک، Substack و تلگرام منتشر شد. بخشی از محتوا به زبان آلمانی تولید و در کانالی به نام «Lahme Ente» (اردک لِنگ) پخش شد که علیه اوکراین، اتحادیهٔ اروپا و دولت فدرال آلمان موضع میگرفت و گرایشهای نزدیک به روسیه را ترویج میکرد.
یکی از اپراتورها حدود دو دوجین کانال تلگرامی با تمرکز بر کشورهایی مانند آلمان، آمریکا، فرانسه، لهستان و ترکیه را پشتیبانی میکرد؛ برای هر کانال لوگو طراحی میکرد و خلاصههای منظم فعالیتها را به زبان روسی دریافت مینمود.
با وجود تعامل اندک پستهای منفرد و شمار مشترک محدود حسابهای رسمی IBI، هر یک از کانالهای مرتبط در تلگرام بین 10,000 تا 20,000 دنبالکننده جذب کرده بودند. OpenAI این کمپین را در مقیاس Brookings Breakout سطح 3 از 6 طبقهبندی کرد؛ یعنی انتشار روی چند پلتفرم انجام شده و نشانههایی از دسترسی به کاربران واقعی وجود داشته است. زیرساخت فنی و سازماندهی کمپین نشان میداد در صورت افزایش منابع میتوانست به سرعت مقیاسپذیر شود.
سابقهٔ عملیات مشابه و ریسکِ گستردهتر
OpenAI پیشتر نیز چند عملیات نفوذ روسی دیگر را که از مدلها سوءاستفاده میکردند مختل کرده بود؛ از جمله شبکهٔ «Bad Grammar» در ژوئن 2024 و «Operation Helgoland Bite» پیش از انتخابات فدرال آلمان در 2025 که محتوای آلمانیزبان تولید میکردند. این موارد تنها نمونههایی هستند که روی پلتفرم OpenAI شناسایی شدهاند؛ با در دسترس بودن مدلهای متنباز و سرویسدهندگان متعدد، مقیاس واقعی عملیات نفوذ مبتنی بر هوش مصنوعی احتمالاً بسیار بزرگتر است.
اقدامات لازم: کنترل، شفافیت و پاسخدهی
این پرونده نشان میدهد ترکیب ابزارهای هوش مصنوعی، حسابهای هماهنگ و کانالهای هدفگیریشده میتواند شبکههایی بسازد که با حمایت مالی یا فنی بهسرعت گسترش یابند. مقابله با این تهدید نیازمند همافزایی میان پلتفرمها، نهادهای دولتی و جامعهٔ مدنی است.
اقدامات پیشنهادی برای کاهش خطر
- افزایش شفافیت در منابع محتوا و نمایش واضح نشانههای تولید ماشینی به کاربران.
- توسعه و بهکارگیری ابزارهای فنی برای تشخیص محتوای تولیدشده توسط مدلها و شناسایی الگوهای هماهنگ انتشار.
- ایجاد سازوکارهای بینالمللی برای تبادل داده و هماهنگی در روند مقابله با عملیات نفوذ سازمانیافته.
- نیاز به چارچوبهای نظارتی و استانداردهای فنی برای ارائهٔ عمومی مدلهای قدرتمند تا سوءاستفادهٔ سازمانیافته محدود شود.
- افزایش توانمندی رسانهها و کاربران در بررسی اصالت مطالب و آموزش رسانهای برای شناسایی روایتهای جهتدار.
منابع مرتبط
- OpenAI — گزارشها و اطلاعیههای رسمی مرتبط با امنیت و سوءاستفاده از مدلها
- Cambridge University Press و Migration Policy Institute — نمونههایی از منابع اصلی که محتوای IBI از آنها برداشت شده بود
- تلگرام — پلتفرم اصلی انتشار کانالها
