پروژه شفافیت تکنولوژی (TTP) در گزارشی تکاندهنده فاش کرد که متا، شرکت مادری فیسبوک و اینستاگرام، روزها زمان برده تا تبلیغاتی را حذف کند که حاوی مواد آزار جنسی کودکان (CSAM) تولیدشده توسط هوش مصنوعی بودند. برخی از این تبلیغات، تصاویر کودکان واقعی را هدف قرار داده بودند — از جمله عکس خبری یک عضو جوان خانواده سلطنتی اروپایی و تصاویری که از پروفایل اینستاگرام یک دختر ۱۴ ساله با عنوان اینفلوئنسر دزدیده شده بود.
۳۳۲ تبلیغ مجرمانه در کمتر از یک سال
بررسی TTP نشان میدهد تنها در سال جاری، ۳۳۲ تبلیغ حاوی CSAM هوش مصنوعی از سیستمهای تشخیص متا عبور کردهاند. اکثریت قاطع این تبلیغات، برنامههای «برهنهساز» (nudify) را ترویج میکردند که بیشتر آنها توسعهدهندگان چینی دارند. این ابزارها به عاملان بدنیتی امکان میدهند تا با چند کلیک، تصاویر کودکان را به ویدیوهای صریح و آزاردهنده تبدیل کنند.
وقوعیت ترسناک: کودکان واقعی قربانی شبحهای دیجیتال
تحقیقگران TTP توانستند چندین تبلیغ را با تصاویر کودکان واقعی که قبلاً آنلاین منتشر شده بودند، تطبیق دهند. موارد شناساییشده شامل:
- یک شاهزاده جوان اروپایی: عکس خبری او به ویدیویی از انجام کار جنسی صریح تبدیل شده بود.
- یک اینفلوئنسر ۱۴ ساله: عکس او در پوشاک ورزشی باشگاه به ویدیویی از آزار جنسی دهانی متحرک شده بود.
- یک کودک پیشنوجوان: عکس استوک او با لباس ورزشی صورتی و دوچرخه، به ویدیویی تبدیل شده بود که در آن کودک با ترس در مواجهه با یک مرد بزرگسال آزار میبیند.
بسیاری از کودکان دیگر در تبلیغات قابل شناسایی نبودند، اما الگو ثابت بود: دختران پیشنوجوان هدف اصلی بودند.
شعارهای تبلیغاتی: «این هوش مصنوعی است که مردها واقعاً استفاده میکنند»
کپشنهای تبلیغات با بیاعتنایی کامل به قوانین و اخلاق، کاربران را ترغیب میکردند:
«هوش مصنوعی ما ارادههای پنهان شما را به ویدیوهای هیپناتیک تبدیل میکند. تیره، جذاب، فراموشنشدنی.»
«هیچ محدودیتی وجود ندارد. تمام شخصیتها افراد واقعی هستند و گزینههای زیادی وجود دارد. این هوش مصنوعی است که مردها واقعاً از آن استفاده میکنند.»
این متنها نه تنها ترویج مواد غیرقانونی بودند، بلکه صراحتاً کودکان واقعی را به عنوان «شخصیتها» و «گزینهها» مورد معامله قرار میدادند.
مسئولیت قانونی و تقصیر پلتفرم
وزارت دادگستری آمریکا پیش از این شفاف کرده که CSAM تولیدشده توسط هوش مصنوعی در نظر قانون دقیقاً معادل CSAM واقعی است و تولید، توزیع و تبلیغ آن جرم فدرال محسوب میشود. با این حال، متا نتوانست — یا نخواست — مانع از انتشار این تبلیغات در مقیاس وسیع شود.
این شکست سیستمی سؤالات جدی درباره اولویتهای متا در نظارت بر محتوای تبلیغاتی، کارایی سیستمهای تشخیص خودکار، و پاسخگویی پلتفرمها در برابر آسیبهای ناشی از ابزارهای هوش مصنوعی مولد را به چالش میکشد.
فراتر از یک خطای فنی
مسئله تنها یک باگ فنی نیست. تبلیغات روزها در پلتفرم باقی ماندند، کلیک دریافت کردند، و درآمد به جیب متا رفت. هر ساعت تأخیر در حذف، یعنی دیدن مجدد این محتوای سمی توسط کاربران بیشتر و ترساندن مجدد قربانیانی که تصاویرشان دزدیده شده است.
تا زمانی که پلتفرمهای بزرگ هزینه بیاعتنایی را به منزله ضرر مالی واقعی بپردازند، تاریخ تکرار خواهد شد — با قربانیانی که صدایشان شنیده نمیشود.
