داریو آمودی، مدیرعامل آنتروپیک (Anthropic)، بهوضوح اعلام کرد که شرکت او هیچگاه با ممنوعیت مدلهای هوش مصنوعی با وزنِ باز (Open-weight) مخالفت نکرده است. او پس از یک هفته انتقادات شدید از سوی صنعت، راهکار دیگری را پیشنهاد میدهد: ارزیابیهای اجباری ایمنی پیش از انتشار هر مدلی که به «حد خاصی از توانمندی» رسیده باشد. با این حال، بزرگترین چالش این است که هنوز هیچکس تعریف نکرده این حدِ توانمندی دقیقا از کجا آغاز میشود و این موضوع مستقیما سرنوشت مدلهای متنبازِ آینده را رقم خواهد زد.
آمودی در نامه اخیر خود مدلهایی را که فاقد قابلیتهای خطرناک هستند، یک «کالای عمومی» میخواند که برای استفاده از آنها تنها به توان محاسباتی نیاز است. راهکار سهگانه او برای مدیریت این فضا شامل موارد زیر است:
- تشدید کنترلهای صادراتی روی تراشههای پیشرفته و تجهیزات ساخت آنها
- برخورد جدی با تقطیر (Distillation) مدلها در مقیاس صنعتی
- الزام به تستهای ایمنی پیش از انتشار مدلهای توانمند
دو بند اول مستقیماً دولت فدرال و واشنگتن را هدف قرار میدهد، اما بند سوم بار اصلی را بر دوش توسعهدهندگانی میگذارد که در حال آمادهسازی مدلهای جدید هستند. آمودی معتقد است ایده تست ایمنی به یک اجماع صنعتی نزدیک میشود و به نظر میرسد دولت جدید آمریکا نیز به این سمت در حرکت است. در این پیشنهاد، مدلهای کمتوانتر (مانند پروژههای آکادمیک و استارتاپی) از انجام این تستهای سنگین معاف خواهند بود. اما تعیین مرز دقیق برای یک «استارتاپ» یا یک «مدل کمتوان» به خودی خود تبدیل به یک آستانه توانمندی و محدودکننده خواهد شد.
رقابت برای رهبری هوش مصنوعی آمریکا
این نامه با عنوان «وزنهای باز و رهبری هوش مصنوعی آمریکا» تاکنون با امضای ۵۰ شرکت و نهاد مواجه شده است. غولهایی مانند اوپنایآی، گوگل، مایکروسافت، انویدیا، متا، ایامدی، سیسکو، کلودفلر و گیتهاب از حمایت کنندگان اصلی این طرح به شمار میروند. در نقطه مقابل، آنتروپیک و آمازون همچنان از امضای این بیانیه خودداری کردهاند.
در همین راستا، انویدیا بهتازگی «ائتلاف هوش مصنوعی امنِ باز» را با حضور بیش از ۳۵ عضو بنیانگذار از جمله مایکروسافت، آیبیام، پلنتیر، ردهت و بنیاد لینوکس راهاندازی کرده است. استدلال انویدیا برای این حرکت، نیاز متخصصان امنیتی به مدلهای مرزیِ باز (Open frontier) جهت بررسی و تحقیقِ حوادث سایبری است. شرکتها معتقدند ابزارهای بسته و دربست، مانع از انجام تحلیلهای قانونی و دیباگ روی حوادث میشوند؛ همانطور که اخیراً در بررسی یک اتفاق امنیتی در هاگینگ فیس، تیم کارشناسان مجبور شدند برای تحلیل دقیق از یک مدل وزنِ باز استفاده کنند.
چالش اجرای جهانی و توافق بینالمللی
مدیرعامل آنتروپیک به یکی از بزرگترین نقدهای مطرحشده پاسخ داده و تاکید کرده که یک ممنوعیتِ داخلی در ایالات متحده، تنها شرکتهای آمریکایی را از رقابت محافظت میکند و در مقابل، کارخانههای تولید بدافزار و بازیگران مخرب را متوقف نخواهد کرد. با این وجود، از آنجایی که شرکت آنتروپیک خود تا به امروز هیچ مدل وزنِ بازی را منتشر نکرده است، این مواضع در نگاه اول بیشتر شبیه به یک استراتژی بازاریابی به نظر میرسد.
پاشنه آشیل این طرح در اجرای آن نهفته است. آمودی اعتراف میکند که انجام تستهای پیش از انتشار «باید یک فرآیند جهانی باشد و حتی چین نیز باید با آن همراه شود». این موضوع بزرگترین علامت سؤال این ماجرا است. در حالی که واشنگتن میتواند بهتنهایی کنترلهای صادراتی و محدودیتهای تقطیر را اعمال کند، ایجاد یک رژیم جهانی برای سنجش توانمندی مدلهای هوش مصنوعی نیازمند توافقهای گستردهی بینالمللی است که در حال حاضر وجود خارجی ندارند.
