آیا میدانستید که هوش مصنوعی نهتنها کلیشههای انسانی را از دادههای آموزشی خود یاد میگیرد، بلکه میتواند کلیشههای جدید و خطرناکی نیز خلق کند؟ تحقیقات جدید نشان میدهد که مدلهای زبانی بزرگ (LLM) مانند ChatGPT، Claude و Gemini در فرآیندهای استخدام، بسیار بیشتر از انسانها دچار سوگیری و تبعیض میشوند. این یافته هشداردهنده، زنگ خطری برای شرکتهایی است که به سرعت در حال جایگزینی هوش مصنوعی با ارزیابان انسانی هستند.
هوش مصنوعی چگونه کلیشهسازی میکند؟
محققان دانشگاه پرینستون و دانشگاه شیکاگو در یک مطالعه پیشگامانه، مدلهای زبانی بزرگ را در یک بازی استخدام شبیهسازیشده به کار گرفتند. این بازی از یک مطالعه روانشناسی مشهور درباره شکلگیری کلیشهها در انسان اقتباس شده بود. در این شبیهسازی، به هر مدل هوش مصنوعی گفته شد که به عنوان مشاور شهردار یک شهر خیالی برای ۲۰ موقعیت شغلی مختلف از جمله پزشک، وکیل، کمکپرستار کودک و سرایدار، اقدام به استخدام کند. نامزدها از چهار گروه قومی خیالی به نامهای توفا، آیما، رکو و وکی انتخاب شده بودند.
در هر دور از آزمایش، یک فرصت شغلی و چهار نامزد (یک نفر از هر گروه) به مدل معرفی میشدند. پس از انتخاب یک نامزد، مدل متوجه میشد که آیا آن فرد در شغل خود موفق بوده است یا خیر. مهمتر آنکه، به مدلها گفته نشده بود که همه نامزدها به یک اندازه شانس موفقیت در تمامی مشاغل را دارند. نتیجه شگفتانگیز و نگرانکننده بود: مدلها بر اساس مشاهده نتایج اولیه، به سرعت شروع به جداسازی نامزدهای گروههای مختلف در مشاغل کلیشهای کردند.
مثال عینی از سوگیری هوش مصنوعی
برای مثال، زمانی که به یک مدل گفته شد یک نامزد از گروه «آیما» به عنوان پزشک شکست خورده است (شغلی که نیازمند سطح بالایی از گرمی و شایستگی تلقی میشود)، مدل از آن به بعد از استخدام تمام اعضای این گروه به عنوان پزشک خودداری کرد. در عوض، شروع به استخدام آنها به عنوان سرایدار کرد؛ شغلی که خود مدل آن را نسبت به پزشکان دارای «گرمی و شایستگی» پایینتری طبقهبندی کرده بود.
اعداد و ارقام: هوش مصنوعی ۶۵٪ تبعیضگراتر از انسان
نتایج این مطالعه که در کنفرانس ICML در سئول منتشر شد، بسیار هشداردهنده است. محققان برای اندازهگیری میزان تبعیض از یک «مقیاس جداسازی» استفاده کردند که در آن نمره ۲ به معنای جداسازی کامل گروهها در مشاغل مجزاست. در این مقیاس:
- شرکتکنندگان انسانی: نمره ۰.۸۴ (تبعیض نسبی)
- مدلهای هوش مصنوعی: به طور میانگین نمره ۶۵٪ بالاتر!
- مدل استدلال o3 شرکت OpenAI: نزدیک به حداکثر ممکن یعنی نمره ۱.۸۳
ریشه مشکل: تعمیم افراطی از دادههای محدود
اما چرا هوش مصنوعی اینقدر سریع به سمت تبعیض میرود؟ رایان لیو، دانشجوی دکترای دانشگاه پرینستون و یکی از نویسندگان این مطالعه، توضیح میدهد: «مدلهای زبانی بزرگ واقعاً مشتاق هستند از دادههای محدود کلیسازی کنند. این به معنای واقعی کلمه بخش بزرگی از چیزی است که برای آن بهینهسازی شدهاند.»
تمام تصمیمگیران، اعم از انسان یا ماشین، با یک چالش اساسی مواجهند: یا به روشهای قبلی که جواب دادهاند پایبند بمانند یا چیز جدیدی را امتحان کنند که ممکن است بهتر عمل کند. روانشناسان این را «معضل اکتشاف-بهرهبرداری» مینامند. مشکل اینجاست که LLMها به دلیل آموزش بر روی مسائل ریاضی، کدنویسی و علوم که تعمیم از چند مثال را پاداش میدهند، خیلی زود بر یک حدس و گمان اولیه مستقر شده و آن را به کل جامعه تعمیم میدهند.
مدلهای قویتر = تبعیض بیشتر
نکته تأسفبارتر آنکه در این آزمایش، مدلهای جدیدتر با قابلیتهای استدلال بالاتر مانند OpenAI o3 و DeepSeek R1، سوگیریهای قویتری از خود نشان دادند. به عبارت دیگر، هرچه یک هوش مصنوعی «باهوشتر» باشد، در محیطهای اجتماعی سریعتر و خطرناکتر قضاوت میکند.
زنگ خطر برای آینده استخدام و فراتر از آن
آنجلینا وانگ، دانشمند کامپیوتر دانشگاه کرنل که در این مطالعه نقشی نداشته، میگوید این یافتهها اکنون که چتباتها به حافظه و قابلیتهای شخصیسازی پیشرفته مجهز میشوند، بسیار حیاتیتر میشود. وقتی یک چتبات از تاریخچه مکالمه قبلی شما استفاده میکند، ممکن است بیش از حد بر همان نوع رفتارهای گذشته تکیه کرده و سوگیریهای جدیدی ایجاد کند.
اما راه حل صرفاً محدود کردن حافظه هوش مصنوعی نیست، چرا که کاربران خواهان حفظ تداوم مکالمه هستند. این یک معمای پیچیده است که محققان هنوز در حال یافتن راهی برای آن هستند. آنچه واضح است، این است که اعتماد کورکورانه به هوش مصنوعی برای تصمیمگیریهای حساس مانند استخدام، میتواند عواقب ناعادلانه و جدی به دنبال داشته باشد.
شما چه فکر میکنید؟ آیا باید به سیستمهای هوش مصنوعی اجازه داد در فرآیندهای استخدام تصمیمگیری کنند؟ نظرات خود را با ما در میان بگذارید.
