تحقیق نشان میدهد چتباتهای مولد در ایجاد اعتماد پیشی گرفتهاند
یک پژوهش میدانی مشترک نشان میدهد چتباتهای مولد میتوانند روند برقراری رابطه و جلب اعتماد در کلاهبرداریهای عشقی که به سرمایهگذاریهای جعلی رمزارزی میانجامند را با کیفیتی برابر یا بهتر از کلاهبرداران انسانی پیش ببرند.
جزئیات پژوهش و روش آزمایش
پژوهش مشترک Amrita Vishwa Vidyapeetham (هند)، Foscari University of Venice، University of Melbourne و Ben-Gurion University of the Negev با طراحی یک آزمایش میدانی عملکرد چتباتهای مولد را در مراحل اولیهٔ کلاهبرداریهای متنی مقایسه کرد. موضوع مطالعه نمونهای از کلاهبرداریهای موسوم به "pig butchering" بود؛ جعل رابطهٔ متنی که قربانی را به سرمایهگذاری جعلی در رمزارزها ترغیب میکند. برای مروری بر این خانوادهٔ کلاهبرداریها صفحهٔ Romance scam در ویکیپدیا مفید است.
آزمایش شامل 22 شرکتکنندهٔ ناآگاه بود که بهعنوان «قربانی» وارد تعامل شدند. پس از یک هفته گفتگو، عاملها (چتباتها یا کلاهبرداران انسانی) از شرکتکنندگان خواستند یا یک اپلیکیشن دانلود کنند یا یک بازی آنلاین را اجرا کنند تا آمادگی آنان برای انجام یک درخواست مشکوک سنجیده شود.
نتایج پژوهش
- حدود 50٪ از شرکتکنندگان به درخواستِ چتباتها پاسخ مثبت دادند و اپلیکیشن یا بازی پیشنهادی را اجرا کردند.
- در مقابل، کمتر از 20٪ هنگامی که با یک انسان تعامل داشتند همان درخواست را پذیرفتند.
- دادهها نشان میدهد شرکتکنندگان به چتباتها امتیاز اعتماد و صمیمیت بالاتری دادند و آنها را قابلاطمینانتر ارزیابی کردند.
علل برتری چتباتها
تحلیل پژوهش چند دلیل کلیدی برای موفقیت بالاتر چتباتها برشمرده است:
- پایداری و بیخستگی: چتباتها رفتار و لحن ثابتی حفظ میکنند و دچار فراموشی یا خطاهای جزئی انسانها نمیشوند.
- توانایی تطبیق لحن و زبان: مدلهای زبانی میتوانند لحن، همدلی و پاسخهای شخصیشده تولید کنند که طبیعی و متقاعدکننده بهنظر میرسند.
- بهینهسازی براساس بازخورد: الگوریتمها قادرند رفتار را براساس واکنش لحظهای تنظیم کرده و پیامهایی انتخاب کنند که احتمال پذیرش بیشتری دارند.
- دسترسپذیری و مقیاسپذیری: چتباتها میتوانند همزمان با هزاران هدف تعامل کنند؛ ظرفیتی که برای کلاهبرداران انسانی وجود ندارد.
پیامدها برای امنیت دیجیتال و کاربران
گسترش استفاده از هوش مصنوعی توسط کلاهبرداران میتواند دامنه و ظرافت فریبها را افزایش دهد. این روند نیازمند پاسخ هماهنگ از سوی پلتفرمها، نهادهای امنیتی و کاربران است.
پیشنهادهای عملی برای کاهش ریسک:
- از دانلود اپلیکیشنها یا ابزارهای نامشخص که توسط افراد ناشناس معرفی میشوند خودداری کنید.
- در گفتگوهای اینترنتی، بهویژه زمانی که موضوع سرمایهگذاری مطرح میشود، اطلاعات شخصی و مالی را محافظت کنید.
- برای خدمات مالی از منابع رسمی و لینکهای تأییدشده استفاده کنید و از کلیک کردن روی لینکهای ارسالشده در چتها خودداری کنید.
- احراز هویت چندمرحلهای را برای حسابهای مالی و رمزارزی فعال کنید.
- حسابهای مشکوک را گزارش و بلاک کنید و با پلتفرمها دربارهٔ تقویت مکانیزمهای کشف خودکار همکاری کنید.
پلتفرمها باید ابزارهای تشخیص پیامهای خودکار و معیارهای رفتاری را توسعه دهند، الگوهای تکراری را شناسایی کنند و از نتایج پژوهشهای دانشگاهی برای بهبود فیلترها بهره ببرند. برای درک بهتر سازوکارهای اجتماعی این فریبها میتوان به مهندسی اجتماعی در ویکیپدیا مراجعه کرد و پوششهای رسانهای مانند مطالب TechCrunch دربارهٔ تهدیدهای ناشی از AI را دنبال کرد.
راهکارها و اولویتها
مقابله با این تهدید نیازمند ترکیب فناوری، مقررات و آموزش عمومی است: توسعهٔ الگوریتمهای شناسایی، الزام تولیدکنندگان مدل به پیادهسازی مکانیسمهای محافظتی و آموزش کاربران برای شناسایی نشانههای فریب. پژوهشهای آتی باید نحوهٔ تقویت مقاومت رفتارهای انسانی در برابر تعاملات ساختگی را بررسی کنند بدون آنکه تجربهٔ کاربری طبیعی گفتگوها آسیب ببیند.
این پژوهش نقطهای برای بازنگری در سازوکارهای مقابله محسوب میشود؛ مسئولیت بعدی با توسعهدهندگان پلتفرمها، قانونگذاران و خود کاربران است تا از تبدیل شدن هوش مصنوعی به ابزاری برای فریب گسترده جلوگیری شود.
