در یک اتفاق طعنهآمیز و شگفتانگیز، پلتفرم منبعباز هوش مصنوعی (AI) Hugging Face، که به عنوان بزرگترین مخزن مدلهای هوش مصنوعی جهان شناخته میشود، فاش کرد که هدف یک حمله سایبری قرار گرفته است. نکته جالب توجه این است که این حمله نه توسط یک گروه هکری معمولی، بلکه توسط یک عامل هوش مصنوعی خودمختار (Autonomous AI Agent) انجام شده است.
به گزارش منابع معتبر فناوری و به نقل از بیانیه رسمی این شرکت، این حادثه در اوایل هفته گذشته رخ داده و بلافاصله توسط تیمهای امنیتی Hugging Face شناسایی و مهار شده است. به گفته این شرکت، مهاجم موفق به دسترسی غیرمجاز به مجموعه محدودی از دادههای داخلی و چندین اعتبارنامه (Credential) سرویسهای این پلتفرم شده بود.
جزئیات نفوذ؛ از خط لوله پردازش داده تا کل خوشهها
تحقیقات اولیه نشان میدهد که نقطه شروع این حمله، خط لوله پردازش داده (Data Processing Pipeline) خود پلتفرم بوده است. مهاجم با استفاده از یک مجموعه داده (Dataset) مخرب، از دو آسیبپذیری مجزا سوءاستفاده کرده است:
- بارگذار کد از راه دور (Remote Code Loader): برای اجرای کدهای دلخواه بر روی یک worker پردازشی.
- تزریق الگو (Template Injection) در پیکربندی دیتاست: که مسیر دومی برای اجرای کد فراهم کرده است.
پس از کسب دسترسی اولیه، عامل تهدید (Threat Actor) با استفاده از یک چارچوب عامل خودمختار (Autonomous Agent Framework) توانست سطح دسترسی خود را به سطح گره (Node-Level) ارتقا دهد. این چارچوب هوشمند، هزاران عملیات مجزا را در میان انبوهی از جعبههای شنی کوتاهمدت (Sandboxes) انجام داد و با استفاده از سرویسهای عمومی برای فرماندهی و کنترل (C2) خودمهاجرتی، به صورت جانبی (Lateral Movement) به چندین خوشه (Cluster) داخلی دیگر نیز نفوذ کرد. تمام این عملیات در طول یک آخر هفته انجام شد.
هنوز مشخص نیست که دقیقاً کدام مدل زبانی بزرگ (LLM) برای هدایت این حمله استفاده شده است.
اقدامات جبرانی و درس عبرت برای مدافعان سایبری
تیم امنیتی Hugging Face بلافاصله پس از شناسایی حمله، اقدامات متعددی را برای مهار و رفع مشکل انجام داده است:
- حذف کامل ردپای مهاجم از خوشههای آسیبدیده و بازسازی گرههای به خطر افتاده.
- ابطال و چرخش (Rotate) گسترده تمامی اعتبارنامهها، توکنها و اسرار (Secrets) آسیبدیده.
- استقرار محافظهای امنیتی اضافی و کنترلهای پذیرش (Admission Controls) سختگیرانهتر بر روی خوشهها.
- بهبود سیستمهای تشخیص و هشدار برای اطمینان از اطلاع تیم واکنش در عرض چند دقیقه، به صورت ۲۴ ساعته و ۷ روز هفته.
این شرکت همچنین از تمامی کاربران خود خواسته است که اقدام به چرخش توکنهای دسترسی (Access Tokens) خود کرده و فعالیتهای اخیر حساب خود را برای هرگونه فعالیت مشکوک بررسی کنند. خوشبختانه، Hugging Face تایید کرده است که هیچ شواهدی مبنی بر دستکاری مدلها، مجموعه دادهها یا Spaces عمومی و همچنین زنجیره تامین نرمافزاری خود توسط این عامل هوش مصنوعی یافت نشده است.
معضل پیش روی تحلیلگران امنیتی؛ وقتی مدلهای غربی همکاری نمیکنند
یکی از جذابترین بخشهای این ماجرا، رویکرد Hugging Face برای انجام تحلیل پزشکی قانونی (Forensic Analysis) بوده است. این شرکت برای بررسی دقیق حمله، به مدل GLM 5.2 متعلق به شرکت چینی Z.ai روی آورد. دلیل این انتخاب جالب بود: مدلهای پیشرو غربی از همکاری با درخواستهای حاوی دستورات واقعی حمله، بارهای بهرهبرداری (Exploit Payloads) و مصنوعات C2 خودداری کردند، زیرا محافظهای ایمنی (Safety Guardrails) آنها فعال میشد و قادر به تشخیص تفاوت بین یک مهاجم واقعی و یک تیم پاسخ به حادثه قانونی نبودند.
این شرکت مستقر در نیویورک در این باره گفت: "این تجربه نشاندهنده یک شکاف اساسی است که باید برای آن برنامهریزی کرد. ما نمیدانیم کدام مدل عاملهای مهاجم را تغذیه میکرده، چه یک مدل هاست شده جیلبریک شده (Jailbroken) یا یک مدل متنباز و نامحدود. به هر حال، مهاجم مقید به هیچ خط مشی استفادهای نبود، در حالی که کار پزشکی قانونی خود ما توسط محافظهای مدلهای میزبان شدهای که ابتدا امتحان کردیم، مسدود شد."
این شرکت در پایان یک درس عملی بسیار مهم برای تمام مدافعان سایبری ارائه میدهد: "قبل از وقوع حادثه، یک مدل قدرتمند که بتوانید روی زیرساخت شخصی خود اجرا کنید، آماده و بررسی شده داشته باشید. این کار هم از قفل شدن توسط محافظها جلوگیری میکند و هم از خروج دادهها و اعتبارنامههای مهاجم از محیط شما."
این رویداد، زنگ خطری جدی برای جامعه امنیت سایبری و توسعهدهندگان هوش مصنوعی است. استفاده از عوامل خودمختار هوش مصنوعی در حملات سایبری، فصل جدیدی از تهدیدات را باز کرده است که نیازمند راهکارهای دفاعی هوشمندانهتر و آمادگی کامل سازمانها است.
