نیکلاس شریر، مدیر عامل موکا (Mocha)، پلتفرم سازنده وبسایت با هوش مصنوعی، فکر میکرد یک خاطره دلگرمکننده برای آرشیو خانوادگی میسازد. دختر دوسالهاش اولین بار در حال خوابپیچی با پسرخالهاش بود. آنها بیش از یک ساعت با لهجهای مخصوص کودکها با هم گفتگو کردند. شریر تصمیم گرفت این لحظه را ثبت کند—اما نه با دوربین، بلکه با یک میکرافون مخفی در اتاق.
فایل صوتی را مستقیماً به کلود، مدل زبانی شرکت آنتروپیک (Anthropic)، تحویل داد. کلود صدا را رونویسی کرد، گفتگو را به قطعههای کوتاه تقسیم نمود و برای هر بخش عنوانی برگزید. نتیجه یک وبسایت خانوادگی شد با ترکلیستهایی از جنس: «آب بنوشید»، «دریای بوقلمونی»، «سگ بنفش را جور کن»، «من بچه بزرگم» و «من گذاشتم».
شریر در دوم آگوست در اکس (X) نوشت: «شادی خالص از طرف همه. هوش مصنوعی خیلی عالیه.» اما اینترنت با خشم واکنش نشان داد. پست او ۴٬۴۷۵ لایک گرفت، در حالی که اولین پاسخ—«اگر متوجه میشدم والدینم این کار را کردهاند، ازشان متنفر میبودم. هیچ احترامی برای حریم خصوصی. آنها انسان هستند، نه نسخههای کوچک شما برای تفریحتان»—بیش از ۱۱٬۱۷۹ لایک کسب کرد.
وقتی حریم خصوصی قربانی "خاطرهسازی" میشود
ماک دانکن، پادکستر معروف تاریخ، به شدت انتقاد کرد: «چرا باید قداست و حریم خصوصی گفتگوی نیمهشب خوابپیچی را حفظ کنیم وقتی میتوانیم مخفیانه همه چیز را ضبط کنیم، به ماشین تولید محتوای بیکیفیت هوش مصنوعی بدهیم و در موردش پست بگذاریم؟» حتی الگوریتم ترندینگ اکس تیتری ساخت: «مدیر عامل تکنولوژی از هوش مصنوعی برای برش دادن گفتگوی کودک برای خاطرات خانوادگی استفاده میکند.»
شریر کوتاه نیامد. در پاسخ به یک نظر حمایتی نوشت: «ضبط صوتی حس میکند مثل یک گنجینه. صبر نمیکنم با دخترباقم وقتی بزرگتر شد گوش دهم.» وقتی کسی پیشنهاد داد این یک سری پادکست شود، او پاسخ داد: «در یک معنی هست. واقعاً در خانواده محبوب است، بارها و بارها گوش داده شده و یک ساعت طول دارد.» درباره نحوه عنوانگذاری هم توضیح داد که یک «زیرعامل» (subagent) هر بخش را رونویسی میکند، میخواند و نام میگذارد.
الگویی که تکرار میشود: از التمن تا اسباببازیهای هوشمند
شریر تنها نیست. سام التمن، مدیر عامل اوپنایآی (OpenAI)، پیشتر در برنامه تونایت شو (Tonight Show) با جیمی فالون گفته بود: «نمیتوانم تصور کنم چگونه بدون چتجیپیتی نوزاد بزرگ میکردم.» روزهای قبل از ماجرای شریر، التمن در اکس پیشنهاد داد والدین تقویمهای خانوادگی را به هوش مصنوعی متصل کنند تا هر صبح پادکستی بسازد درباره برنامههای بچهها، اخبار و غیره—ماشینی که بچهها در صندلی عقب نشستهاند و میشنوند.
این الگو فراتر میرود:
- برخی والدین از چتجیپیتی برای انتخاب نام نوزاد استفاده کردهاند.
- اسباببازیهای مجهز به هوش مصنوعی که دادههای کودکان را جمعآوری میکنند، هشدار مقامات آمریکایی را برانگیختهاند.
- وکلاي کلیه ایالتها «چتباتهای جنسی» را تهدیدی برای کودکان خواندهاند.
- روانشناسان هشدار میدهند کودکان میتوانند وابستگی احساسی به هوش مصنوعی شکل دهند که جایگزین روابط انسانی شود.
سوالی که پاسخ ندارد: رضایت چه کسی؟
در قلب ماجرا یک معضل اخلاقی حلنشده است: کودکان نمیتوانند رضایت دهند. پسرخاله هم نمیتوانسته، و والدینشاید میدانند میکرافون در حال ضبط است. حالا رونویسی کامل این گفتگو در یک سیستم تجاری هوش مصنوعی پردازش شده و در یک وبسایت عمومی قرار گرفته است. کلود توانست کلیپها را برش دهد، نامگذاری کند و دستهبندی نماید، اما نتوانست درک کند که برخی چیزها ذاتاً خصوصی میمانند—و باید بمانند.
شریر یک میراث دیجیتال میبیند. هزاران غریبه یک نقض حریم خصوصی مخفیانه را با یک ترکلیست میبینند. و ماشین، پرونده را حل نکرد.
