نقش هوش مصنوعی در برنامهریزی حملات تروریستی
یک مطالعه جدید از برنامه علم و سیاست هوش مصنوعی کمبریج (CASP) نشان میدهد که گروههای تروریستی مانند بوکوحرام و داعش از چتباتهای محبوب هوش مصنوعی مانند ChatGPT، Claude، Gemini، Grok، Meta AI و DeepSeek برای برنامهریزی حملات و توسعه سلاح استفاده میکنند. آنتونیا یولیخ، محقق این پروژه، با ۲۷ عضو سابق بوکوحرام مصاحبه کرده و جزئیات نگرانکنندهای از این سوءاستفاده فاش کرده است.
آموزش مهندسی پرامپت و شکستن فیلترهای ایمنی
بر اساس این مطالعه، داعش از سال ۲۰۲۳ آموزش مهندسی پرامپت و شکستن محدودیتها (jailbreak) را به فرماندهان بوکوحرام در نیجریه ارائه میدهد. هر دو شاخه بوکوحرام واحدهای اختصاصی هوش مصنوعی راهاندازی کردهاند. یولیخ توضیح میدهد: «آنها افراد برتر را در یک اتاق جمع میکردند و با پروژکتور نحوه کار با چتباتها را روی صفحه بزرگ نمایش میدادند.»
موارد عجیب: پرش با موتورسیکلت از روی سنگرها
در نمونهای عجیب، شاخه ISWAP (یکی از شاخههای بوکوحرام) از هوش مصنوعی برای تقلید تکنیکهای پرش با موتورسیکلت از یک فیلم استفاده کرد تا مبارزان بتوانند از روی سنگرها عبور کنند. این تمرین منجر به مرگ ۱۸ نفر از ۲۶ مبارز شد و تنها ۸ نفر موفق به پرش شدند.
هشدار درباره سلاحهای کشتار جمعی
یولیخ مینویسد: «اعضای سابق اشتیاق زیادی به هوش مصنوعی نشان دادند و برخی گفتند که این گروه قبلاً سلاحهای تلفاتجمعی را در نظر گرفته بود. اگرچه استفاده بوکوحرام از هوش مصنوعی فعلاً مرسوم است، این باید زنگ خطری برای جدی گرفتن خطر کمک هوش مصنوعی به ساخت سلاحهای شیمیایی و بیولوژیکی باشد.»
فیلترهای ایمنی ناکارآمد
محققان و آزمایشگاههای هوش مصنوعی مانند OpenAI و Anthropic مدتهاست درباره دسترسیپذیرتر شدن دانش خطرناک هشدار میدهند. اما این مطالعه نشان میدهد که خودتنظیمی داوطلبانه کافی نیست و فیلترهای ایمنی نمیتوانند به طور قابلاعتماد از سوءاستفاده جلوگیری کنند. Anthropic اخیراً پذیرفت که احتمالاً جیلبریکها هرگز به طور کامل از بین نخواهند رفت.
نگرانی واقعی: سیستمهای تخصصیتر
محققان تأکید میکنند که چتباتهای عمومی مانند ChatGPT نگرانی اصلی نیستند، زیرا بیشتر دانش موجود را آسانتر میکنند. خطر واقعی در سوءاستفاده از سیستمهای هوش مصنوعی تخصصیتر در علوم زیستی نهفته است که میتوانند به تولید دانش جدید و خطرناک کمک کنند.
