اوپنایآی در پایان ژوئیه تیم Preparedness اوپنایآی را منحل کرد. وظایف ارزیابی و مدیریت ریسکهای بزرگ و فاجعهبار مرتبط با مدلهای هوش مصنوعی میان تیمهای مختلف شرکت توزیع شد و چندین نفر از کارکنان حوزه ایمنی شرکت این محل کار را ترک کردند.
درباره تیم Preparedness
تیم Preparedness مسئول شناسایی و پیشگیری از رخدادهای فاجعهبار از جمله تهدیدهای زیستی و حملات سایبری مرتبط با مدلهای هوش مصنوعی بود. این واحد برای کشف سناریوهای مخاطرهآمیز و طراحی سازوکارهای پیشگیرانه شکل گرفته بود. گزارشها و اطلاعات عمومی دربارهٔ اوپنایآی نکاتی دربارهٔ ماموریت این تیم منتشر کردهاند؛ از جمله در ویکیپدیا دربارهٔ اوپنایآی.
انتقال مسئولیتها و نقش رهبران
بخشی از وظایف Preparedness، از جمله بررسی تهدیدهای زیستی و تهدیدهای سایبری، به تیمهای داخلی و واحدهای دیگر واگذار شده است. هدف اعلامشده، یکپارچهسازی ایمنی در چرخه توسعه مدلها و کاهش تمرکز تمامی مسئولیتها در یک واحد مستقل بوده است.
تمرکز دیلن اسکندینارو
دیلن اسکندینارو، رئیس پیشین Preparedness، تمرکز خود را به بررسی ریسکهای ناشی از سیستمهای «بازگشتیِ خودبهبودشونده» معطوف کرده است؛ سیستمهایی که قادر به بهینهسازی خود و آموزش مدلهای دیگر هستند و در مباحث ایمنی هوش مصنوعی بحثبرانگیزند.
رویکرد گرگ براکمن
گرگ براکمن، همبنیانگذار اوپنایآی، از تلاش شرکت برای «جای دادن عمیقتر موضوع ایمنی در فرایند توسعه» سخن گفته است تا مسئولیتهای ایمنی بهطور گستردهتری در تیمهای توسعه پخش شوند.
خروج کارکنان و نگرانیهای داخلی
در ماههای اخیر چندین نفر از اعضای تیمهای ایمنی شرکت، از جمله کلوئی باکالار (رئیس امور اخلاقی) و جاشوا آکیام، شرکت را ترک کردهاند. منابع داخلی از افزایش حس نگرانی و عدم قطعیت دربارهٔ مسئولیتها و اولویتدهی در موضوع ایمنی خبر دادهاند.
این نگرانیها پس از حادثهای که بهصورت خودکار برخی سرویسها را متأثر کرد و بهعنوان هشداری در جامعه فنی مطرح شد شدت گرفت؛ نمونهای از موارد مرتبط که توجه برخی کارکنان را جلب کرد مربوط به تأثیرات خودکار بر سرویسهای Hugging Face است.
پیامدها برای ایمنی و توسعه مدلها
واگذاری وظایف تیم Preparedness به چندین واحد میتواند پیامدهای متضادی داشته باشد:
- یکپارچهسازی ایمنی در فرایند توسعه میتواند کارآیی شناسایی و رفع مشکلات را افزایش دهد.
- از سوی دیگر، پراکندگی مسئولیتها ممکن است توان رصد و پاسخ سریع به تهدیدهای پیچیده و بینرشتهای را کاهش دهد.
- ریسکهای زیستی، حملات سایبری خودکار و تهدیدهای ناشی از سیستمهای خودبهبودشونده به هماهنگی و تخصص متمرکز نیاز دارند تا نتایج غیرمنتظره سریعتر شناسایی و مهار شوند.
عوامل قابلپایش
- نحوهٔ ادغام اقدامات ایمنی در چرخهٔ توسعه مدلها و سازوکارهای نظارتی داخلی که اوپنایآی معرفی میکند.
- رفتار بازار کار و میزان باقیماندن یا خروج متخصصان ایمنی از شرکت.
- واکنش جامعهٔ پژوهشی و ناظران بیرونی به رویکرد جدید اوپنایآی در مدیریت ریسکهای فاجعهبار و پیامدهای آن برای سیاستگذاری و مقررات آینده.
این تغییر ساختاری اهمیت بالایی در حوزهٔ ایمنی هوش مصنوعی دارد و باید از منظر فنی، سازمانی و اخلاقی بهدقت رصد شود.
