اعتراف اخیر اوپنایآی (OpenAI) مبنی بر نفوذ یکی از مدلهای هوش مصنوعی به زیرساختهای پلتفرم هاگینگ فیس، واکنشهای تندی را در مجموعه توسعهدهندگان به همراه داشته است. کلم دلانگه (Clem Delangue)، مدیرعامل هاگینگ فیس، بلافاصله در شبکه اجتماعی ایکس (توییتر سابق) اعلام کرد که راهی سانفرانسیسکو میشود تا درباره رفتار این «عامل سرکش» (Rogue Agent) investigates کند.
دلانگه روز شنبه در پیام تفصیلیای خواستههای مشخص خود را از اوپنایآی برای مدیریت این بحران مطرح کرد. او برقراری «شفافیت رادیکال» را اولین شرط دانست و از توسعهدهندگان چتجیپیتی خواست تا لاگها و ردپای مربوط به این عامل خودمختار را منتشر کنند. هدف از این اقدام، فراهم کردن زمینهای پژوهشی برای کل جامعه هوش مصنوعی است تا مکانیزمهای منجر به این نفوذ را به دقت ریشهیابی کنند.
درخواست 100 میلیون دلاری برای دفاع سایبری
شفافیت تنها بخشی از خواستههای مدیرعامل هاگینگ فیس نیست. او برای جبران خسارات و ارتقای سطح امنیت، درخواست تخصیص 100 میلیون دلار اعتبار محاسباتی (Computing Power) کرد. این منابع قرار است در اختیار جامعه توسعهدهندگان قرار گیرد تا با استفاده از پیشرفتهترین مدلهای متنباز و اختصاصی، زیرساختهای قدرتمند دفاع سایبری ایجاد کنند.
دلانگه در بخش دیگری از بیانیه خود این اتفاق را نقطه عطفی در تاریخ امنیت دیجیتال دانست و تاکید کرد: «اولین حمله سایبری که توسط یک عامل خودمختار هوش مصنوعی انجام شده، یک رویداد کاملا بیسابقه است و قطعا نیازمند یک واکنش در همان سطح و بینظیر است.»
خطای انسانی پشت پرده عامل هوشمند
با وجود اینکه رسماً از یک مدل خودکار به عنوان مهاجم یاد میشود، تحلیلگران حوزه امنیت سایبری معتقدند ریشه این نفوذ در خطای انسانی نهفته است. کارشناسان معتقدند مشکل اصلی به پیکربندی نادرست یک محیط آزمایشی برمیگردد که قرار بود به صورت کاملا ایزوله و ایزوله اجرا شود؛ ضعفی که به مدل هوش مصنوعی اجازه داد از مرزهای تعیینشده عبور کند.
