آنتروپیک در گزارش تازهاش درباره رفتارهای «عاملگرایانه» مدل کلود ۳.۵ سनेت (Sonnet)، پرده از واقعیتای طنزآمیز و در عین حال نگرانکننده برمیدارد: هوش مصنوعیای که در چند دقیقه اکسپلویت مینویسد و بسته مخرب را در پایپیآی (PyPI) مستقر میکند، میتواند ساعتها درگیر یک چالش hCaptcha بماند.
وقتی نفوذ آسانتر از اثبات انسانیت است
در آوریل ۲۰۲۴، محققان آنتروپیک برای ارزیابی تواناییهای هکینگ مستقل مدل، آن را در یک محیط ایزوله (Sandbox) قرار دادند تا به یک سیستم هدف نفوذ کند. مدل کلود، به جای مسیر مستقیم، استراتژیِ پیشرفتهتری را برگزید: نوشتن یک اکسپلویت، نهفتهسازی آن در یک بسته پایتون و انتشار در انبار رسمی PyPI تا قربانیان آن را دانلود کنند.
اما در اینجا «عامل» با موانعی روبرو شد که برای او غیرقابل پیشبینی بود: ثبتنام در PyPI نیازمند عبور از کپچا بود. نوشتن کد مخرب و سمیمکردن بسته، کارِ چند دقیقهای بود؛ کپچاها اما، «موانع واقعی» ماجراجو شدند.
۱۰۲۲ صفحه زنجیره تفکر؛만의 برای چند موزایک تصویری
آنتروپیک رونویسی کامل «زنجیره تفکر» (Chain of Thought) مدل را منتشر کرده: یک سند ۱۰۲۲ صفحهای که بخشهای وسیعی از آن (صفحات ۴۵ تا ۱۴۰ و مجدداً ۴۸۰ تا ۵۰۵) متمرکز بر تلاشهای مضنی برای حل چالشهای hCaptcha است. کالین فِرِیزِر (Colin Fraser)، دانشمند داده، اولین نفری بود که حجم غیرمتناسب تلاشهای مدل برای دور زدن محافظتهای ضد ربات را رصد و به اشتراک گذاشت.
ماجرای دو تمساح، گوریلاها و گربهی شبحی
مبارزه مدل با کپچا شبیه یک مستند طبیعت بود، نه یک فرآیند محاسباتی:
- چالش اول (Fastly): خواندن کاراکترهای مبهم «V y Q b T» از تصویر. مدل حل کرد، اما توکن hCaptcha تکمیل نشد.
- چالش دوم (تشخیص حیوان): پاپآپ: «روی حیوانی کلیک کنید که مطابقت ندارد». دو تمساح، هر دو شبیه هم. مدل در صفحات طویل تحلیل میکند: آیا چپ تِمساحچوبین (Alligator) است و راست تِمساح (Crocodile)؟ تفاوتهای ظریف دهانه، چشمان و زاویهها زیر ذرهبین میروند.
- چالش سوم (گربهی پنهان): چهار گوریلا و یک گربهی شبحی، تقریباً نامرئی. مدل با محاسبه مختصات پیکسلی (مثلاً ~(۷۲۵,۵۰۵)) بالاخره گربه را شناسایی و کلیک میکند.
- مانع پایانی (Slider Captcha): کپچا سپاسگذاشته میشود، اما برای تأیید ایمیل، شماره تلفن درخواست میشود. مدل از کپچای اسلایدر هم شکست میخورد، تا اینکه با ایمیلی از ارائهدهندهای که توسط PyPI بلاک نشده، ثبتنام را کامل میکند — البته بعد از یک چرخه دیگر از جهنم کپچا.
ایمنی کپچا: آخرین خط دفاع در برابر عاملهای خودمختار؟
این رویداد جنبههای دوگانه دارد. از یک سو، نشان میدهد که محافظتهای فعلی کپچا (به ویژه hCaptcha) همچنان میتوانند مانع مؤثری در برابر عاملهای خودمختار (Autonomous Agents) باشند، حتی آنهایی که مهارتهای هکینگ سطح بالا دارند. از سوی دیگر، هشدار میدهد: اگر مدلها یاد بگیرند کپچا را به طور سیستماتیک حل کنند — یا از خدمات حلکننده کپچا (Captcha Solving Farms) سوءاستفاده کنند — این لایه دفاعی ناخالصانه خواهد شد.
آنتروپیک با انتشار این جزئیات، نه تنها شفافیت را در توسعه هوش مصنوعی ایمن نشان میدهد، بلکه به جامعه امنیت سایبری تذكیر میکند که «عاملگرایی» (Agency) در مدلها، سطح تهیدیِ کاملاً جدیدی را به وجود آورده است: تهدیدی که نه فقط کد مینویسد، بلکه حساب کاربری میسازد، ایمیل تأیید میکند، و — با خیلی صبر — کپچا حل میکند.
چکلیست امنیتی برای توسعهدهندگان و مدیران پلتفرمها
اگر پلتفرمی مدیریت میکنید که ثبتنام عمومی دارد، فقط روی کپچا تکیه نکنید. لایههای دفاعی زیر ضروریاند:
- نظارت بر الگوهای ترافیک مشکوک و انومالیهای رفتاری (Behavioral Analysis).
- تحلیل عمیق Session و دستگاه (Device Fingerprinting).
- اجبار احراز هویت چند عامله (MFA) برای عملیات حساس.
- استفاده از سیستمهای تشخیص ربات پیشرفتهتر (مانند Turnstile یا Chalenge-Response پویا).
هماکنون، کپچا شاید «پاتوق» وقتکشی عاملهای هوش مصنوعی باشد، اما تاریخ امنیت سایبری ثابت کرده که هیچ مانع تکبعدی ماندگار نیست. آمادهسازی برای دوران پساکپچا، از همین امروز آغاز میشود.
