متا روز پنجشنبه اعلام کرد که سیستم جدیدی را فعال کرده است تا والدین را در صورت بحث نوجوانان درباره خودکشی یا خودآزاری با ربات چت متا AI از حالت آگاهساز در میآورد. این گام در راستای افزایش امنیت نوجوانان در مواجهه با هوش مصنوعی مولد برداشته شده است.
چگونه کار میکند؟
متا یک سیستم هوش مصنوعی اختصاصی ساخته تا مکالماتی را شناسایی کند که در آنها نوجوان «به وضوح» به آسیبرسانی به خود اشاره دارد. تمام چتهای علامتگذاری شده قبل از ارسال هشدار، به صورت دستی بررسی میشوند. متا در پست وبلاگ خود نوشته: «اگر قصد نوجوان مبهم باشد، ما از روی احتیاط به والدین هشدار میدهیم.»
محدوده اجرا و زمانبندی
- اکنون فعال: ایالات متحده، بریتانیا، استرالیا، کانادا (برای کاربران نظارت والدین اینستاگرام)
- تا پایان سال: عرضه جهانی
بازهی ایمنی گستردهتر
این ویژگی بر روی ابزارهای پیشین متا تکیه دارد:
- هشدار برای جستجوی مکرر اصطلاحات خودکشی/خودآزاری در اینستاگرام
- نمایش موضوعات چت نوجوان با متا AI در هفته گذشته برای والدین
- تنظیمات «محتوای محدود» که حالا روی متا AI هم اعمال میشود — ربات چت طیف وسیعتری از دستورات را رد میکند (متا جزئیات را مشخص نکرده، تککرانچ برای اطلاعات بیشتر پیگیری کرده است)
تماس با خدمات اضطراری
متا همچنین اعلام کرد که اگر مکالمهای — چه با نوجوان چه با بزرگسال — نشاندهید ریسک خودکشی باشد، با خدمات اضطراری تماس میگیرد. این سیاست قبلاً برای پستهای فیسبوک و اینستاگرام وجود داشت و اکنون به چتباتها گسترش یافته.
چرا این مهم است؟
شرکتهای تکنولوژی تحت نظارت شدید نهادهای نظارتی و والدین قرار دارند درباره نحوه پاسخ چتباتهای هوش مصنوعی به کاربران در بحران. این مسئله مسئولیتپذاری، طراحی و بازاریابی محصولات AI را در ماههای اخیر به شدت شکل داده است.
متا تأکید کرده که «نقطه شروع درستی» است و نظارت را ادامه خواهد داد تا دقت سیستم بهبود یابد.
