شکاف میان هدف و اجرا در جمینای
فوریه 2024 نقطه عطفی در تاریخ رشد هوش مصنوعی نبود و به جای آن، آینهای از چالشهای ناگفته این فناوری را روی پرده کرد. زمانی که گوگل قابلیت جدید تولید تصویر در اپلیکیشن جمینای را بهروزرسانی کرد، انتظار رونمایی از یک ابزار قدرتمند را داشت، اما تنها 3 هفته بعد، این قابلیت به یکی از پرهزینهترین فاجعههای دیجیتال شرکت مادر، آلفابت، تبدیل شد. این اتفاق نهتنها واکنشهای تند منتقدانی مانند ایلان ماسک و نیت سیلور را برانگیخت، بلکه ارزش بازار شرکت را میلیاردها دلار کاهش داد و پرسشهای جدی درباره تعادل میان ایمنی و خلاقیت در مدلهای زبانی بزرگ مطرح کرد.
نسخههای تاریخی که هیچگاه وجود نداشتند
کاربران شبکههای اجتماعی بلافاصله پس از انتشار آپدیت، نسبت به خروجیهای غیرمنطقی این بخش اعتراض کردند. الگوریتم در بازمهندسیاش برای پوشش دادن طیف گستردهای از کاربران، مرزهای تاریخی و فرهنگی را کاملاً نادیده گرفت. از میان هزاران تصویر تولیدشده، چند نمونه بهسرعت وایرال شدند: وایکینگهایی با پوست تیره، یک زن آسیاییتبار با لباس نظامی آلمان در دوران جنگ جهانی دوم، پاپی زن از نسل جدید، و بنیانگذاران ایالات متحده با ظاهری کاملاً رنگینپوست. توئیتها و پستهای این محتوا نشان میدادند که مدل هنوز چالشهای عمیقی در درک زمینههای تاریخی دارد و این موضوع به سرعت از حد طنز اینترنتی فراتر رفت.
توقف موقت و عذرخواهی رسمی
واکنش اولیه گوگل در روز 21 فوریه، ترکیبی از دفاع و پذیرش نقص بود. مسئولان این شرکت در شبکه اجتماعی ایکس اعلام کردند که تلاش برای نمایش تنوع انسانی در جهان ضروری است، اما اذعان کردند الگوریتم در این باره هدف را از دست داده است. تنها 24 ساعت بعد، لحن تغییر کرد. گوگل اعلام کرد تمام قابلیت تولید تصویر جمینای را موقتاً غیرفعال میکند. گزارشگرهای شبکه CNBC در صبح همان روز تأیید کردند که مدل هرگونه درخواست تصویری را پس میزند.
چند روز بعد، وبلاگ رسمی گوگل با عنوانی صریح منتشر شد: «تولید تصویر جمینای اشتباه کرد. ما بهتر عمل خواهیم کرد.» در این متن، شرکت به اعتراف کامل پرداخت:
واضح است که این قابلیت دچار خطا شده است. برخی از تصاویر تولیدشده نادرست یا حتی توهینآمیز هستند. ما از بازخورد کاربران سپاسگزاریم و بابت عملکرد نامطلوب این قابلیت متأسفیم.
مهندسی شکستخورده؛ تنوعدهی افراطی و بیشاحتیاطی
در لایههای فنی، گوگل دو دلیل اصلی برای این بحران برشمرد. نسخهی پیشین این مدل، رقبایی مانند چتجیپیتی، سالها با سوگیریهای نژادی و کلیشهای آشنا بوده است. برای رفع این مشکل، تیم مهندسی جمینای را طوری تنظیم کرد که در پاسخ به دستورات ساده، طیفی متنوع از افراد را نشان دهد. این تغییر پارادایم اگرچه در دنیای پزشکی یا محیطهای مدرن جواب میداد، اما در سیاقهای تاریخی مثل دوران وایکینگها یا جنگ جهانی دوم، به معنای تحریف واقعیت بود. الگوریتم تفکیک میان تنوع امروزی و دقت تاریخی را بلد نبود.
دلیلی دیگر، واکنشهای جانبی سیستمهای ایمنی بود. در تلاش برای جلوگیری از تولید محتوای آسیبزا یا غیراخلاقی، فیلترهای مدل بهشدت سختگیر شدند. نتیجه؟ جمینای وارد حالت بیشاحتیاطی شد و حتی درخواستهای کاملاً بیخط را بهاشتباه مسدود کرد. ترکیب این دو تنظیم، یعنی تلاش برای تنوعگرایی و همزمان ایمنی افراطی، مدل را در وضعیت تعلیق ویرانگری قرار داد که نهتنها خروجی تولید نمیکرد، بلکه اگر هم خروجی میداد، از واقعیت فاصله میگرفت.
پیامدهای بازار و مسیر پیشرو
بازار سرمایه بلافاصله به این نگرانیها واکنش نشان داد و ارزش سهام آلفابت در روزهای نخست سقوط کرد. اما آسیب اصلی فراتر از اعداد و ارقام بورسی بود. این اتفاق به نمادی برای تمام صنایع هوش مصنوعی تبدیل شد: سوار شدن روی شتاب رقابت، بدون ساختن یک چارچوب ایمنی و اعتبارسنجی قوی، هزینههای سنگینی در پی دارد. شرکتهای بزرگ باید میان سرعت انتشار آپدیتها و تستهای عمیق پیش از عرضه، تعادل ایجاد کنند.
آیندهی تولید تصویر با هوش مصنوعی به زوال کشیده نشد، اما نقشهی راه را برای همیشه دگرگون کرد. مدلهای بعدی نیاز به درک زمینهمحور قویتر دارند و فیلترهای ایمنی باید بتوانند تفاوت میان کلیشههای آسیبزا و تنوعبخشی سالم را بشناسند. تا زمانی که الگوریتمها همچنان در آزمونوخطای عمومی آموزش میبینند، چنین برخوردی با واقعیتهای تاریخی و فرهنگی تکرار خواهد شد. نسل بعدی این ابزارها باید از خطاهای جمینای درس بگیرند، نه اینکه آن را به عنوان پارادایم پیشفرض بپذیرند.
