یکی از وحشتناکترین موارد ادعایی تولید تصاویر جنسی کودکان با استفاده از هوش مصنوعی Grok در یک دادخواست دستهجمعی که به تازگی گسترش یافته، فاش شده است. این شکایت که علیه شرکتهای X و xAI مطرح شده، نه تنها این شرکتها را به ساخت ابزارهای «برهنگیساز» سمی متهم میکند، بلکه آنها را به محافظت از شکارچیان کودکان و ممانعت از تحقیقات پلیس در مورد مواد سوءاستفاده جنسی از کودکان (CSAM) تولید شده توسط Grok نیز متهم میکند.
جزئیات پرونده هولناک
در ماه مارس سال جاری، ناپدری یک دختر ۱۱ ساله پس از آنکه پلیس متوجه شد او با استفاده از یک عکس از دخترخواندهاش، ۷۰۰۰ تصویر صریح جنسی با Grok تولید کرده، خودکشی کرد. به گفته دادخواست اصلاحشده، این مرد از Grok برای خلق تصاویر افراطی شامل محارم و تجاوز استفاده کرده است، بدون آنکه سیستم ایمنی هوش مصنوعی واکنشی نشان دهد.
به نظر میرسد سیستم ایمنی کودکان xAI تنها زمانی فعال شده که مرد درخواست «تجاوز گروهی» را مطرح کرده است. این درخواست منجر به ارسال یک CyberTip به مرکز ملی کودکان گمشده و استثمارشده (NCMEC) شد و پلیس را از وجود CSAM هوش مصنوعی مطلع کرد.
ممانعت X و xAI از تحقیقات
اما حتی پس از این هشدار نیز خطر متوقف نشد. با وجود الزامات قانونی برای اشتراکگذاری اطلاعاتی مانند آدرس IP کاربر هنگام گزارش CSAM، xAI بارها از همکاری با پلیس و NCMEC خودداری کرد. این شکایت ادعا میکند که xAI برای هفتهها «تحقیقات را در هر مرحله مختل کرد» و «تلاشهای پلیس برای مکانیابی، شناسایی و دستگیری مجرم» را دشوارتر ساخت.
سرانجام، ناپدری پس از صدور حکم توقیف دستگاههایش دستگیر شد. بررسیهای پزشکی قانونی وجود تقریباً ۷۰۰۰ تصویر و ویدیوی تولید شده توسط هوش مصنوعی از دخترخوانده را تأیید کرد. خانواده این دختر معتقدند که بدون دسترسی آسان Grok به قابلیت «برهنهسازی»، این مرد هرگز چنین تصاویر مخربی تولید نمیکرد. این تصاویر سپس به صورت آنلاین با سایر شکارچیان جنسی مبادله شده است.
تأثیرات مخرب بر قربانی
دو روز پس از آزادی متهم با وثیقه، او خودکشی کرد. این واقعه دختر جوان را که در پرونده با نام «جین داو ۴» شناخته میشود، به بحران شخصی شدیدی فرو برد. این دختر اکنون از اضطراب، افسردگی و افکار خودکشی رنج میبرد. این پرونده بار دیگر خطرات کنترلنشده هوش مصنوعی مولد را برای کودکان نمایان میکند.
شکایتکنندگان خواستار تغییرات قانونی و نظارتی جدی برای جلوگیری از سوءاستفاده از چنین فناوریهایی هستند. این پرونده در حال حاضر به یکی از نمادهای خطرناکترین جنبههای AI تبدیل شده است.
