ائتلاف OSAA و آغاز سریع کار عملی

Open Secure AI Alliance (OSAA)، ائتلافی با رهبری انویدیا که اکنون بیش از 120 شرکت را گرد هم آورده، تنها یک هفته پس از اعلام تشکیل، گروه کاری Shared AI Findings Exchange (SAFE) را راه‌اندازی و پیشنهادهای اولیه را برای نظرعمومی منتشر کرد. مدیریت انتشار و دریافت بازخورد این پیشنهادها بر عهده بنیاد لینوکس است.

تدوین راهنمای گزارش‌دهی و تحلیل‌ها در Black Hat

اعضای ائتلاف در جریان کنفرانس امنیت سایبری Black Hat در لاس‌وگاس روی پیشنهادها کار کردند. محتوای اولیه بیشتر بر نکات عملی و ضروری تمرکز دارد: گزارش محرمانه رخدادهای امنیتی مرتبط با هوش مصنوعی، اطلاع‌رسانی به ذی‌نفعان و انجام تحلیل‌های بدون اتهام‌زنی تا تجربه‌ها به‌صورت عمومی به اشتراک گذاشته شوند.

ابزارها و مشارکت‌های مطرح‌شده

اعضا بخشی از پروژه‌های متن‌باز خود را فهرست کرده‌اند که می‌تواند پایه‌گذار ابزارهای حفاظتی مشترک شود. نمونه‌های اعلام‌شده عبارت‌اند از:

  • انویدیا — مجموعه‌ای از مدل‌های متن‌باز و ابزار اسکن آسیب‌پذیری LLM به‌نام Garak (NVIDIA).
  • Okta — توسعه فناوری احراز هویت و مدیریت هویت عامل‌ها (Okta).
  • Red Hat — تمرکز بر حاکمیت عامل‌ها و مدیریت اجرایی آن‌ها (Red Hat).
  • آمازون — مشارکت در ابزار ساخت عامل متن‌باز Strands Agents و زبان مجوزدهی Cedar (AWS).

این فهرست قابل گسترش است و با مشارکت‌های بیشتر می‌تواند به مجموعه‌ای از ابزارها و چارچوب‌های متن‌باز برای امن‌سازی عامل‌های هوش‌مصنوعی تبدیل شود.

حضور بازیگران بزرگ و غیبت برخی رقبا

در فهرست اعضای OSAA نام‌هایی مانند Adobe، BlackRock، Cisco، Intel، Microsoft و Visa دیده می‌شود، اما غایبانی مثل Anthropic، OpenAI و Google هنوز عضویتشان رسمی نشده است. با این حال OpenAI و Google پیش‌تر نامه‌ای را که منشأ شکل‌گیری این گروه بود امضا کرده بودند؛ حضور رسمی آن‌ها در فهرست اعضای فعال هنوز رخ نداده است.

زمینه شکل‌گیری و منظور از حرکت متن‌باز

نامه‌ای که هفته گذشته با رهبری انویدیا منتشر شد از کاخ سفید خواست حمایت از تلاش‌های متن‌باز در حوزه هوش‌مصنوعی را در اولویت قرار دهد و به جای محدودسازی، سازوکارهای توافقی و حفاظتی ایجاد شود. آن نامه بیش از 200 شرکت فناوری را گرد هم آورد و اقدامات عملی OSAA گام بعدی برای نشان دادن تعهد اعضاست.

پیامدهای عملی و چشم‌انداز

واکنش سریع اعضا به مباحثی مانند احتمال ممنوعیت مدل‌های وزن‌باز چینی در ایالات متحده نشان می‌دهد که بازیگران بزرگ صنعت می‌خواهند نقش‌های تنظیم‌گری و فنی را خودشان فعال کنند تا نوآوری متن‌باز حفاظت شود. اگر این تلاش به تولید ابزارها، پروتکل‌ها و رویه‌های مشترک منجر شود، احتمال دارد چارچوبی متن‌باز و معتبر برای ایمن‌سازی عامل‌های هوش‌مصنوعی در سطح سازمانی شکل بگیرد.

نتایج مورد انتظار

  • تدوین رویه‌های گزارش‌دهی و اشتراک‌گذاری رخدادها بدون اتکا به روش‌های متناقض یا محرمانه.
  • ایجاد ابزارهای متن‌باز برای ارزیابی و کاهش آسیب‌پذیری در مدل‌ها و عامل‌ها.
  • هماهنگی بیشتر بین شرکت‌ها برای پاسخ یکپارچه به تهدیدات و رخدادها.

پرسش‌های باز

  • آیا غایبان عمده مثل Anthropic، OpenAI و Google به عضویت رسمی ملحق خواهند شد؟
  • تا چه حد پیشنهادهای SAFE به استانداردهای بین‌المللی یا ابزارهای متن‌باز قابل‌اتکا تبدیل می‌شوند؟
  • این اتحاد چگونه با قوانین دولتی و نگرانی‌های امنیتی بین‌المللی تعامل خواهد کرد؟

پاسخ این پرسش‌ها در هفته‌ها و ماه‌های آینده روشن می‌شود. اما نکته مشخص این است که اعضای OSAA در صدد ورود فناوری و سازوکارها به عرصه عمل هستند و نه تنها به اعلام حمایت لفظی اکتفا می‌کنند.

منابع مرتبط: بنیاد لینوکس (linuxfoundation.org), کنفرانس Black Hat (blackhat.com), Hugging Face (huggingface.co).