آیا هوش مصنوعی در استخدام، سوگیرانه‌تر از انسان عمل می‌کند؟

تصور کنید برای یک فرصت شغلی درخواست می‌دهید و پیش از آنکه یک کارمند منابع انسانی رزومه شما را ببیند، یک الگوریتم هوش مصنوعی آن را ارزیابی می‌کند. هرچند این فرآیند سرعت را افزایش می‌دهد، اما سوال اساسی اینجاست: آیا هوش مصنوعی می‌تواند منصفانه قضاوت کند؟ تحقیقات جدید نشان می‌دهد که پاسخ منفی است. سوگیری‌های استخدامی هوش مصنوعی نه تنها از داده‌های آموزشی نشأت می‌گیرد، بلکه این سیستم‌ها می‌توانند در طول زمان، سوگیری‌های جدیدی را نیز خلق کنند که در برخی موارد، از انسان‌ها نیز شدیدتر است.

ریشه‌های سوگیری در مدل‌های زبانی بزرگ

مدل‌های زبانی بزرگ (LLM) مانند GPT و LLaMA از حجم عظیمی از داده‌های متنی اینترنت تغذیه می‌کنند. این داده‌ها مملو از کلیشه‌ها و سوگیری‌های اجتماعی رایج هستند. با این حال، تحقیقات جدید نشان می‌دهد که این مدل‌ها تنها به بازتولید سوگیری‌های موجود بسنده نمی‌کنند. آنها از طریق «تجربه» و تعامل با داده‌های جدید، می‌توانند پیش‌داوری‌های جدیدی را نیز توسعه دهند. این امر به ویژه زمانی نگران‌کننده‌تر می‌شود که شرکت‌های هوش مصنوعی به سمت ساخت مدل‌های عاملی حرکت می‌کنند؛ مدل‌هایی که جزئیات رفتاری کاربران را به خاطر می‌سپارند و تصمیمات خود را بر اساس آن شکل می‌دهند.

در یک سناریوی شغلی، اگر یک مدل متوجه شود که تعداد زیادی از متقاضیان یک رشته تحصیلی خاص در پروژه‌های پیشین موفق نبوده‌اند، ممکن است به طور ناعادلانه‌ای تمام متقاضیان آن رشته را در آینده رد کند. این پدیده که به «کلیشه‌سازی تجربی» معروف است، می‌تواند منجر به تبعیض‌های گسترده‌تری نسبت به آنچه که در فرآیندهای انسانی دیده می‌شود، گردد.

تهدید جدیدی برای دقت پیش‌بینی‌های آب‌وهوا

در سوی دیگر دنیای داده، تهدید جدیدی در کمین است. هر روز صبح، خلبانان، اپراتورهای شبکه برق و کشاورزان برای تصمیم‌گیری‌های حیاتی خود به پیش‌بینی‌های آب‌وهوا تکیه می‌کنند. اما اکنون، یک بازیگر جدید وارد میدان شده است: بازارهای پیش‌بینی و شرط‌بندی که در آن مردم روی رویدادهای واقعی، از جمله آب‌وهوا، پول شرط می‌بندند. این جایی است که خطر خرابکاری در داده‌های آب‌وهوا به شدت افزایش یافته است.

وسوسه دستکاری داده‌های جوی برای به دست آوردن برتری در معاملات شرط‌بندی، در کنار حرکت روزافزون به سمت استفاده از مدل‌های هوش مصنوعی مبتنی بر داده برای پیش‌بینی آب‌وهوا، یک ترکیب خطرناک ایجاد کرده است. متخصصان این حوزه هشدار می‌دهند که اگر این روند کنترل نشود، می‌تواند به یک بحران سیستمی در دقت پیش‌بینی‌ها تبدیل شود و خسارات جانی و مالی هنگفتی به بار آورد. نهادهای نظارتی و شرکت‌های فناوری باید سریعاً برای ایجاد پروتکل‌های امنیتی جدید در این حوزه اقدام کنند.

اخبار داغ دیگر امروز

• اسپیس‌ایکس و پنتاگون: شرکت فضایی ایلان ماسک در حال مذاکره برای فروش خدمات محاسبات ابری هوش مصنوعی به وزارت دفاع آمریکا است. ارزش این قرارداد که ظرفیت مرکز داده‌ای بالغ بر میلیاردها دلار را شامل می‌شود، نشان‌دهنده عمیق‌تر شدن روابط میان ایلان ماسک و پنتاگون است. در تحولی مرتبط، شرکت آنتروپیک نیز با متا برای تأمین توان محاسباتی وارد مذاکره شده است.
• ترامپ مدیا و تجارت اطلاعات: شرکت رسانه‌ای ترامپ اعلام کرده که بابت دسترسی زودهنگام به پست‌های دونالد ترامپ، از شرکت‌های معاملاتی و بانک‌ها ماهانه ۱۰۰ هزار دلار دریافت خواهد کرد. هدف این طرح، کسب درآمد از پست‌هایی است که تأثیر مستقیمی بر بازارهای مالی دارند. منتقدان این اقدام را نوعی «فساد آشکار» توصیف کرده‌اند.
• نقض حریم خصوصی توسط ICE: اسناد دادگاه فاش کرده است که آژانس مهاجرت و گمرک آمریکا (ICE) داده‌های حساس برنامه درمانی «مدیکید» را که حق دسترسی به آن را نداشته، در اختیار شرکت پلانتر قرار داده است. همچنین گزارش شده که ICE از ابزارهای واسطه‌های داده برای شناسایی کودکان بدون همراه استفاده می‌کند.
• اپل از انویدیا پیشی گرفت: شرکت اپل برای مدت کوتاهی با عبور از انویدیا، به باارزش‌ترین شرکت جهان تبدیل شد. سرمایه‌گذاران تحت تأثیر ثبات درآمدی اپل قرار گرفته‌اند، در حالی که رشد سهام انویدیا به دلیل تغییر استراتژی‌های سرمایه‌گذاری در حوزه هوش مصنوعی کند شده است.
• سیاستمداران و کنترل چت‌بات‌ها: صنعت جدیدی شکل گرفته است که به سیاستمداران کمک می‌کند تا پاسخ‌های چت‌بات‌ها را درباره خودشان ویرایش کنند. تحقیقات نشان می‌دهد که چت‌بات‌ها می‌توانند تأثیر بیشتری بر رأی‌دهندگان نسبت به تبلیغات سیاسی سنتی داشته باشند.
• ربات‌های مسلح وارد میدان می‌شوند: پنتاگون روند توسعه سلاح‌های هوش مصنوعی را تسریع کرده است. کارشناسان هشدار می‌دهند که مفهوم «انسان در حلقه» در میدان جنگ عملاً یک توهم است و خطر واگذاری تصمیم‌گیری‌های مرگبار به ماشین‌ها بسیار جدی است.
• شکست مون‌شات چین: استارتاپ هوش مصنوعی مون‌شات به دلیل تقاضای بسیار بالا برای مدل جدید خود «کیمی K3» و فشار بر زیرساخت‌ها، ثبت‌نام کاربران جدید را موقتاً متوقف کرده است. این رویداد نشان‌دهنده رقابت تنگاتنگ مدل‌های متن‌باز چینی با نمونه‌های غربی است.
• انقلاب در دندانپزشکی: دانشمندان از رشد موفقیت‌آمیز «دندان‌های» انسان‌مانند در بدن خوک‌های کوچک خبر می‌دهند. این دستاورد بزرگ می‌تواند مسیر را برای جایگزینی پرکردن‌ها و ایمپلنت‌های دندانی با دندان‌های آزمایشگاهی و طبیعی هموار کند.