در اقدامی که میتواند مسیر حاکمیت هوش مصنوعی را دگرگون کند، دمیس حسابیس، مدیرعامل گوگل دیپمایند، در یک پست در پلتفرم X برای ایجاد یک سازمان استانداردهای مستقل جهت نظارت بر توسعه و استقرار مدلهای پیشرو فراخوان خواند. این پیشنهاد، که در چارچوبی با عنوان «چارچوبی برای هوش مصنوعی پیشرو و حاشیهای یک عصر جدید» ارائه شده، بر پایهای نظیر اعتبار تنظيم صنعت مالی (FINRA) بنا شده است.
مکانیزم پیشنهادی: از داوطلبانه تا اجباری
به تفکیک حسابیس، این سیستم در دو مرحله پیادهسازی میشود:
- مرحله اول (داوطلبانه): آزمایشگاههای پیشرو (Frontier Labs) مدلهای خود را تا ۳۰ روز قبل از انتشار عمومی با سازمان استانداردها برای بازبینی پیشانتشار به اشتراک میگذارند.
- مرحله دوم (رسمیسازی): پس از اثبات اثربخشی و استحکام پروتکل ارزیابی، گذراندن این فرآیند برای استقرار مدلها در بازار آمریکا اجباری میشود. آزمایشگاهها همچنین موظف به همکاری برای رفع آسیبپذیریهای بحرانی پس از انتشار خواهند بود.
چرا این مدل؟ گرهگشایی چالشهای موجود
پیشنهاد حسابیس پاسخی است به انتقادات شدید وارد بر بازبینیهای موقت دولت آمریکا بر روی مدلهایی نظیر «Mythos» شرکت Anthropic و «Sol» از OpenAI. این بازبینیها به دلیل فقدان تخصص فنی عمیق و تصمیمگیریهای مبهم در مورد زمان انتشار مدلها، اعتماد کمی را جلب کرده بودند. سازمان پیشنهادی، با حمایت دولت اما با تامین مالی از صنعت و اداره مستقل، تصمیمگیریها را از حوزه سیاستگذاران به خبرگان فنی و نمایندگان جامعه متنباز واگذار میکند.
مقاومت سیاسی و راهکار خودتنظیمی
پیشبینی تنظيم هوش مصنوعی همچنان در دولت ترامپ رو به چالش است. سریرام کرشنن، مشاور هوش مصنوعی کاخ سفید و شریک عمومی a16z، недаويتاً احتمال وجود یک «FDA برای هوش مصنوعی» در قوه مجریه را رد کرده است. تاسیس یک سازمان خودتنظیمی (SRO) نظیر FINRA میتواند میانهروی بین نیاز به نظارت و حساسیتهای سیاسی باشد؛ ساختاری که توسط صنعت تأمینثمره شده، مستقل عمل میکند و انعطافپذیری لازم برای همقدمی با شتاب پیشرفت تکنولوژی را دارد.
نظریه تغییر: تمرکز فنی، حمایت از نوآوری
حسابیس بر «قدرت این رویکرد» در تمرکز فنی، حمایت از نوآوری و تشویق رفتار مسئولانه تأکید دارد. او معتقد است این سیستم برای تطبیق با بزرگترین ریسکها در هنگام شناسایی طراحی شده و در صورت تشدید جدیت خطرات، میتواند «دان به داند» تشدید گردد. حتی امکان سبکدادن ارزیابیها به گروههای تخصصی امنیت هوش مصنوعی نیز در این چارچوب پیشبینی شده است.
این گزارش بر اساس پست اصلی دمیس حسابیس در X تدوین شده است.
