غولهای هوش مصنوعی ماههاست که برنامههای ارزیابی ویژه و محدودیتهای سختگیرانهای را برای جلوگیری از سوءاستفاده هکرهای مخرب از مدلهایشان طراحی کردهاند؛ اما همین محدودیتها اکنون به مانعی برای مدافعان قانونی شبکه و پژوهشگران امنیت سایبری تهاجمی تبدیل شده است.
در ژوئن، دولت ایالات متحده محدودیتهای کنترل صادرات را بر مدلهای پرحاشیه آنتروپیک (Anthropic) یعنی Mythos و Fable اعمال کرد. این اقدام حداقل تا حدودی در پاسخ به گزارشی مطرح شد که ادعا میکرد امکان دور زدن محدودیتهای ایمنی این مدلها — که برای جلوگیری از ساخت و اجرای حملات سایبری طراحی شدهاند — وجود دارد. آنتروپیک بارها Mythos را به عنوان نوعی ماشین سایبری قدرتمند معرفی کرده که تنها میتواند در اختیار کاربران بررسیشده و با محدودیتهای سختگیرانه قرار گیرد. محدودیتهای صادراتی روی Fable 5 و Mythos 5 بعدها لغو شد؛ Fable 5 در ۱ جولای به دسترسی عمومی بازگشت و Mythos 5 نیز تنها در اختیار سازمانهای بررسیشده آمریکایی به عنوان بخشی از فرآیند بازبینی دولت قرار گرفت.
دروازهبانی انحصاری دسترسی به مدلها
این نوع کنترل دسترسی مختص Mythos نیست. آنتروپیک با سایر مدلهای خود و همچنین OpenAI برنامههایی را به پژوهشگران امنیت سایبری ارائه میدهند که میتوانند برای ارزیابی درخواست دهند و در صورت تأیید، به مدلهایی با محدودیتهای امنیتی کمتری دسترسی پیدا کنند: برنامه «دسترسی مورد اعتماد سایبری» (Trusted Access for Cyber) در OpenAI و «برنامه تأیید سایبری» (Cyber Verification Program) در آنتروپیک.
این محدودیتهای ایمنی به طور گسترده، بهویژه توسط پژوهشگرانی که کارشان کشف آسیبپذیریهای ناشناخته در سیستمها و ابداع راههایی برای بهرهبرداری از آنها پیش از مجرمان است، مورد انتقاد قرار گرفته است.
انتقاد صریح از تصمیمات خودسرانه
مارک داود، پژوهشگر امنیتی شناختهشده، در حضور اخیر خود در یک پادکست امنیت سایبری گفت: «برای من اصلاً راحت نیست که این شرکتهای بزرگ، تصمیمات خودسرانهای درباره اینکه چه چیزی در حوزه امنیت ایمن است و چه چیزی ایمن نیست، میگیرند.»
داود دهههاست که زیرو دیها (zero-day) — نقصهای نرمافزاری پیشتر ناشناخته و بهرهبرداریهایی که از آنها سوءاستفاده میکنند — را به دولتهای غربی میفروشد، نه اینکه آنها را به سازندگان نرمافزار گزارش دهد تا اصلاح شوند. دولتها دقیقاً به این دلیل که این آسیبپذیریها باز میمانند، پاداش بالایی برای آنها پرداخت میکنند؛ چیزی که برای عملیات اطلاعاتی ارزشمند است.
چکشی که هم خانه میسازد و هم سلاح است
کریس آنلی، دانشمند ارشد در غول مشاوره امنیتی NCC Group، توضیح میدهد که درخواست از یک مدل هوش مصنوعی برای تلاش جهت بهرهبرداری از یک باگ، گامی کلیدی در تأیید این است که باگ یک آسیبپذیری واقعی است که ارزش اصلاح دارد. اگر یک محدودیت ایمنی باعث شود مدل از پاسخ دادن به سؤال امتناع کند، این محدودیت به مدافعان آسیب میزند.
آنلی میگوید: «اینجاست که کل بحث تهاجمی در برابر تدافعی و محدودیتهای ایمنی مطرح میشود، زیرا دستور 'این کد را اصلاح کن' هم مکانیزمی اساسی برای دفاع است و هم نقشه راهی برای یافتن آسیبپذیریهای حیاتی در پایگاه کد. در همان زمان، همان ابزار هم ابزار تهاجمی و هم ابزار تدافعی است و این دو واقعاً نمیتوانند از هم جدا شوند.»
او با یک تشبیه ملموس ادامه میدهد: «این مثل یک چکش است. شما بدون چکش نمیتوانید خانه بسازید. این قطعاً یک ابزار است اما در عین حال ذاتاً یک سلاح نیز هست.»
پناه بردن به مدلهای متنباز
وقتی آنلی و همکارانش با چنین سد راهی روبرو میشوند، گاهی به مدلهای هوش مصنوعی متنباز متکی میشوند که هیچ محدودیت ایمنی ندارند. این رویه نشان میدهد که محدودیتهای شرکتهای تجاری، پژوهشگران را به سمت ابزارهای بدون کنترل سوق میدهد و نتیجه معکوس به همراه دارد.
رفتار با مشتری مانند کودک
پائولو استاگنو، مدیر ارشد فناوری در CrowdFense — شرکتی که آسیبپذیریهای ناشناخته را برای سازمانهای دولتی توسعه، خرید و فروش میکند — با داود موافق است و میگوید شرکتهای هوش مصنوعی با برنامههای ارزیابی و محدودیتهایشان «در واقع با مشتریان مانند کودکانی که نیاز به نگهداری دارند رفتار میکنند».
استاگنو توضیح میدهد که او و همکارانش از مدلهای پیشرفته استفاده میکنند — اما فقط برای مهندسی معکوس. آنها از استفاده از هوش مصنوعی برای یافتن آسیبپذیریها یا ساخت اکسپلویتها پرهیز میکنند، زیرا تغذیه این دادهها به یک مدل مبتنی بر ابر، خطر نشت اطلاعات حساس آسیبپذیری یا به سرقت رفتن آن را به همراه دارد.
تضاد ذاتی میان امنیت و آزادی پژوهش
چالش پیشرو فراتر از یک ناراحتی ساده برای پژوهشگران است. محدودیتهای هوش مصنوعی در حال ایجاد یک شکاف جدی میان آنچه شرکتهای سازنده «امن» میدانند و آنچه پژوهشگران برای انجام وظیفهشان نیاز دارند، هستند. مدافعان شبکه برای کشف و رفع آسیبپذیریها پیش از مجرمان به همان ابزارهایی نیاز دارند که هکرها میتوانند از آنها سوءاستفاده کنند.
هرچه شرکتهای هوش مصنوعی گاردریلهای بیشتری نصب کنند، فاصله میان پژوهشگران قانونی و مجرمان سایبری بیشتر باز میشود — اما نه به نفع مدافعان. پژوهشگران تهاجمی مجبور میشوند به مدلهای بدون کنترل پناه ببرند یا صرفاً به شهود و تجربه خود متکی بمانند، و این دقیقاً همان فضایی است که مجرمان سایبری بدون هیچ مانعی در آن فعالیت میکنند. پرسش اساسی این است: آیا شرکتهای هوش مصنوعی باید تصمیمگیرنده نهایی درباره مرزهای پژوهش امنیتی باشند، یا این موضوع نیازمند یک گفتوگوی گستردهتر میان دولتها، پژوهشگران و صنعت است؟
