شهر سانفرانسیسکو به اپل و گوگل دستور داده است که دهها اپلیکیشن موسوم به «برهنهساز» را از فروشگاههای اپلیکیشن خود حذف کنند. این برنامهها با استفاده از هوش مصنوعی، تصاویر افراد را به صورت دیجیتالی تغییر داده و آنها را برهنه نشان میدهند.
جزئیات حکم سانفرانسیسکو
دادستانی سانفرانسیسکو با ارسال نامهای به اپل و گوگل، به آنها هشدار داده است که به میزبانی از این برنامهها پایان دهند. دیوید چیو، دادستان شهر، در بیانیهای به TechCrunch گفت: «اپل و گوگل از برنامههایی سود میبرند که با تولید تصاویر صمیمی جعلی عمیق بدون رضایت، از زنان و دختران سوءاستفاده میکنند.»
قانون ایالت کالیفرنیا هرگونه فعالیتی را که «آگاهانه تسهیل کند» یا «به طور بیاحتیاطی کمک یا همدستی کند» در ایجاد پورنوگرافی عمیق جعلی بدون رضایت، جرمانگاری میکند. در سال 2025 نیز قانون جدیدی به تصویب رسید که به قربانیان اجازه میدهد علیه تسهیلکنندگان شخص ثالث اقدامات مدنی انجام دهند.
هشدارهای قبلی و نقش اپل و گوگل
بر اساس نامههای ارسالی، اپل و گوگل «تقریباً به مدت یک سال در جریان» نقش خود در پردازش پرداختهای غیرقانونی بودهاند. پروژه شفافیت فناوری (TTP) در ژانویه و آوریل گزارشهایی منتشر کرد که نشان میداد دهها برنامه در فروشگاههای اپل و گوگل، تصاویر صمیمی جعلی را در ازای پرداخت میفروختند. گزارش TTP این دو شرکت را «شرکتکنندگان کلیدی در گسترش ابزارهای هوش مصنوعی که افراد واقعی را به تصاویر جنسی تبدیل میکنند» خواند.
دادستان سانفرانسیسکو به Wired گفت که اپل و گوگل احتمالاً «میلیونها دلار» از این برنامهها کارمزد دریافت کردهاند.
پیامدهای قانونی و فرصت ۲۸ روزه
نامههای دادستانی هشدار میدهد که اگر اپل و گوگل ظرف 28 روز این برنامهها را حذف نکنند، با مجازاتهای مدنی برای نقض قانون کالیفرنیا مواجه خواهند شد. این موضوع میتواند تأثیر عمیقی بر سیاستهای نظارت بر محتوای فروشگاههای اپلیکیشن داشته باشد.
تأثیر بر کاربران
اگرچه پورنوگرافی جعلی عمیق پیشتر عمدتاً دامنگیر سلبریتیهای زن بوده است، اما اپلیکیشنهای برهنهساز این تهدید را به همه افراد دارای عکس در دسترس عمومی گسترش دادهاند. این اپلیکیشنها با استفاده از هوش مصنوعی میتوانند هر عکسی را به تصویری غیراخلاقی تبدیل کنند.
TechCrunch برای دریافت نظر اپل و گوگل با آنها تماس گرفته است. این پرونده میتواند به یک رویه قضایی مهم در زمینه مسئولیت پلتفرمهای فناوری در قبال محتوای تولید شده توسط هوش مصنوعی تبدیل شود.
