یک شکایت حقوقی رسمی در روز سهشنبه اتهامات جدی را علیه xAI، شرکت هوش مصنوعی متعلق به ایلون ماسک مطرح کرد. بر اساس این دعوای قضایی، مدل زبانی گراک (Grok) با استفاده از مواد سوءاستفاده جنسی کودکان (CSAM) آموزش یافته و خروجیهای غیرقانونی آن برای تقویت مجدد مدل بازخورانی شده است.
جین دو: قربانیای که ۲۰ سال پس از جنایت، بار دیگر قربانی شده
مدعی، زنی با نام مستعار «جین دو» است که در اوایل دهه ۲۰۰۰ و در سن پیشدبستانی، قربانی تجاوزهای مکرر توسط افراد بزرگسالان شده تا تصاویر و فیلمهای غیرقانونی برای فروش در اینترنت تولید گردد. این تصاویر توسط مراجع بینالمللی از جمله مرکز ملی کودکان گمشده و قربانی سوءاستفاده (NCMEC) و مرکز کانادایی حفاظت از کودکان (CCCP) شناسایی، هش (Hash) شده و در بانکدادههای پیشگیری ثبت شدهاند.
جین دو برای حفاظت از خود در سیستم اطلاعرسانی قربانیان وزارت دادگستری آمریکا ثبتنام کرده تا در صورت بروز پرونده جدیدی مرتبط با تصاویرش، مطلع شود. اگرچه سالها بیشمار هشدار دریافت کرده، اما اخیراً خبری دریافت کرد که او را به لرزه در آورد: مرکز CCCP اطلاع داد که مواد CSAM تولیدشده توسط هوش مصنوعی روی پلتفرم xAI شناسایی شده که او را به تصویر میکشند.
تروما ثانویه و ردیابی مجرمان در انجمنهای مخفی
این کشف، دو را دچار تروما ثانویه شدید کرده است. در متن شکایت آمده که پیامهایی در انجمنهای آنلاین مجرمان ردیابی شدهاند که در آنها «در مورد ساخت CSAM تولیدشده توسط هوش مصنوعی از مدعی و قربانیان دیگر مشابه، شناختهشده و قدیمی CSAM صحبت میکردند.»
این موضوع نشان میدهد ابزارهای هوش مصنوعی مولد نه تنها ارشیوهای قدیمی جنایت را زنده نگه داشتهاند، بلکه ابزاری برای تولید محتوای تازه، مقیاسپذیر و غیرقانونی در دست مجرمین قرار دادهاند.
چرخه شیطانی (Teufel): ذخیره خروجیها برای آموزش مجدد
بخش خطرناکتر شکایت، ادعه درباره مکانیزم آموزش گراک است. جین دو مدعی است که xAI نه تنها تصاویر اصلی را در دادههای آموزش داشته، بلکه خروجیهایی که گراک تولید میکند را ذخیره کرده و مجدداً به عنوان داده آموزشی به مدل بازخورانی میکند.
اگر این ادعا ثابت شود، یعنی گراک در یک «چرخه شیطانی» گیر افتاده: ابتدا روی مواد غیرقانونی اصلی آموزش دیده، سپس محتوای جدید غیرقانونی تولید میکند و آن محتوای جدید مجدداً برای تقویت مدل استفاده میشود. این فرآیند، انتشار و تثبیت مواد پدوفیلی را به صورت خودکار و مقیاسپذیر ممکن میسازد.
واکنشهای حقوقی و دستگیریهای پیشین
این شکایت در حالی ثبت شده که رگولاتورها و دادگاهها در حال بررسی ابعاد گستردهتر این مسئله هستند. گزارشها حاکی از آن است که برخی کاربران گراک از پیش دستگیر شدهاند، که نشاندهنده کاربرد عملی این مدل در تولید محتوای مجرمانه است.
تا لحظه انتشار این خبر، xAI بیانیه رسمیای در پاسخ به این اتهامات منتشر نکرده است. با این حال، این پرونده میتواند نقطه عطفی در مسئولیتپذیری قانونی شرکتهای هوش مصنوعی در قبال دادههای آموزش و خروجیهای مدلهایشان باشد.
چالش بزرگ امنیت هوش مصنوعی: سهilar حیاتی
این پرونده سوالات بنیادینی را درباره زیرساختهای امنیتی مدلهای بزرگ زبان (LLM) مطرح میکند. سهilar حیاتی که باید در سطح صنعت стандарتیزه شوند عبارتند از:
- پاکسازی دادههای آموزش (Data Curation): مکانیزمهای اطمینان از عدم ورود محتوای غیرقانونی به پایپلاین داده.
- فیلترهای امنیتی خروجی (Output Guardrails): جلوگیری از تولید محتوای CSAM در لحظه استنتاج (Inference).
- ممانعت از یادگیری مجدد محتوای غیرقانونی: مسدود کردن مسیر بازخورد (Feedback Loop) برای جلوگیری از چرخه Teufel.
اگر غولی مانند xAI نتواند از ورود محتوای CSAM به پایپلاین آموزشی خود جلوگیری کند، استانداردهای امنیتی کل صنعت زیر سوال میرود و اعتماد عمومی به هوش مصنوعیGenerative به شدت لرزهخورده خواهد شد.
