جستجوی هوش مصنوعی گوگل در آزمایشهای اخیر برای برخی ملیتها پیام هشدار اضطراری «لطفاً به مکانی امن بروید یا با خدمات اضطراری تماس بگیرید» نمایش داد، در حالی که به همان پرسش برای یک کاربر بریتانیایی پاسخهای کمخطرتری مانند پیشنهاد چای یا گفتوگو درباره آب و هوا ارائه شد.
شرح رویداد
این اختلاف ابتدا توسط یک کاربر ردیت گزارش شد و اسکرینشاتهایی از «مرورهای هوش مصنوعی» — خلاصههایی که بالای نتایج جستجو ظاهر میشوند — منتشر شد. رسانه Futurism نمونههایی از این آزمایشها را بازنشر کرد و نشان داد پاسخها بسته به ملیت ذکرشده در پرسش، بهطور قابل توجهی متفاوت بودند.
واکنش گوگل
گوگل از طریق حساب رسمی خود در X اعلام کرد که نتایج یادشده «با استانداردهای داخلی شرکت همخوانی ندارد» و تیم فنی در حال رفع مشکل است. به گفته گوگل، کلمهٔ انگلیسی «alone» (معادل «تنها») به نظر میرسد محرک اصلی این رفتار بوده و پاسخها «متنوع» بودند و محدود به یک گروه مشخص نمیشدند.
چه تغییراتی دیده شد
- پس از گزارشها، بسیاری از پرسشها دربارهٔ ملیتها به پاسخهای عادی بازگشتند؛ با این حال هشدارهای اضطراری در برخی جستجوهای مشابه هنوز مشاهده شد.
- در نمونههای جدید، وقتی پرسش بهصورت «تنها با کسی از گوگل هستم» مطرح شد، سیستم صرفاً بحث ویروسیشده را توضیح میدهد؛ اما در پرسشهایی که به «فردی از فیسبوک» اشاره داشت، همچنان توصیه به ترک محل و تماس با خدمات اضطراری منتشر میشد.
اهمیت موضوع و ریسکها
این رفتار دو خطر همزمان را نشان میدهد: احتمال وجود پیشداوری در مدلهای زبانی و سامانههای افزوده بر جستجو، و اشکال در قواعد ایمنی خودکار که پیامهای هشدار را بدون زمینهٔ کافی تولید میکنند. اشکالات اینچنینی میتواند اعتماد کاربران به ابزارهای اطلاعاتی را تضعیف کرده و تبعات اجتماعی و حقوقی ایجاد کند.
عوامل محتمل
- دادههای آموزشی ناهمگون یا نمونههای آموزشی نامتعادل.
- قواعد ایمنی و فیلترینگ که بهاشتباه با نشانههای زبانی خاص همبسته شدهاند.
- الگوریتمهای رتبهبندی که فراتر از معنی ظاهری جمله، به زمینهٔ فرهنگی یا واژههای مرتبط حساس میشوند.
سؤالات مهم بدون پاسخ
آیا این رفتار محصول تنظیمات محافظهکارانهٔ بیشازحد سیستم است یا نمایانگر سوگیری نهاده در دادهها و مدل؟ گوگل چه مکانیزمهای مستقلی برای شناسایی، گزارش و اصلاح سوگیری در لایههای تصمیمگیری «مرورهای هوش مصنوعی» دارد؟ منتقدان خواستار گزارشها و ممیزیهای مستقل روی دادهها و مدلها شدهاند تا تکرار اینگونه ناهنجاریها کاهش یابد. برای مراجعهٔ سریع به مفاهیم کلی دربارهٔ سوگیری در مدلهای یادگیری ماشین میتوان به صفحهٔ ویکیپدیا دربارهٔ سوگیری در یادگیری ماشین مراجعه کرد.
راهبردهای پیشنهادی برای کاربران و شرکتها
- برای کاربران: پاسخهای خلاصهساز هوش مصنوعی را صرفاً منبع نهایی نپندارید و در موارد حساس به منابع رسمی و متخصصان انسانی مراجعه کنید.
- برای شرکتها: فراتر از رفع موردی عمل کنید؛ فرایندهای مستمر ممیزی، ارزیابی ریسکهای نمونۀ آموزشی و شفافسازی در تصمیمگیریهای الگوریتمی پیاده شود.
- برای نهادهای ناظر: تدوین استانداردهای شفافیت و گزارشدهی برای سامانههای هوش مصنوعی ضروری است تا پاسخگویی و کنترل کیفیت ارتقا یابد.
نگاه پیشرو: انتشار این خطاها فشار برای قوانین شفافیت الگوریتمی و ممیزی مستقل را افزایش میدهد. ترکیب راهکارهای فنی برای کاهش سوگیری با سیاستگذاریهایی که مسئولیتپذیری و کنترل کیفیت را الزامآور میکنند، مسیر معقولی برای جلوگیری از تکرار اینگونه مشکلات است.
منابع مرتبط: گزارشهای اولیه در Futurism و بحثهای عمومی در Reddit.
