داریو آمودی، مدیرعامل Anthropic، میگوید دسترسی به وزنهای باز بهتنهایی استقلال واقعی توسعهدهندگان را فراهم نمیکند، چون محدودیتهای زیرساختی و توان محاسباتی همچنان عامل اصلی تمرکز قدرت باقی میمانند.
چرا وزنهای باز به تنهایی کافی نیستند
آمودی در یک گفتوگوی عمومی در پلتفرم X با سرمایهگذار گاوین بیکر نوشت که «هوش مصنوعی ساختاری گرایش به تمرکز قدرت دارد» و این گرایش ناشی از قوانین مقیاس است، نه صرفاً سیاستها. او پذیرفتهبود که انتشار وزنها میتواند سودمند باشد، اما تأکید کرد که این اقدام «بههیچوجه راهحل کافی نیست» چون سهم اصلی قدرت با کسانی خواهد بود که بیشترین توان محاسباتی و دسترسی به تراشهها را دارند.
کنترل بر توان محاسباتی؛ گلوگاه واقعی
دسترسی به وزنهای یک مدل به تیمها امکان میدهد آن را سازگار کنند و دادههای حساس را در محیط خود نگه دارند. با این حال هرچه مدلها بزرگتر شوند، اجرا و آموزش آنها به سختافزار تخصصیتر، هزینههای سنگینتر و دسترسی به تراشههای خاص وابسته میشود. تیمهای کوچک میتوانند سختافزار را اجاره کنند اما محدودیتهای مالی و ظرفیت فنی همچنان مانع جدی هستند؛ همانجا که تمرکز قدرت پدیدار میشود.
مجادله میان تمرکز و توزیع
گاوین بیکر از Atreides Management استدلال میکند که پخش بیشتر مدلها و فراهم کردن جایگزینهایی برای APIهای اختصاصی میتواند قدرت را توزیع کند و گزینههایی منطبق با خواست کاربران ایجاد نماید. او به هشدارهایی اشاره میکند که چهرههایی مثل Mark Zuckerberg درباره خطرات تمرکز بیش از حد مطرح کردهاند.
آمودی اما معتقد است تقسیم وزنها تنها نیمی از قصه را حل میکند. او میگوید مقررات مبتنی بر معیارهای عینی میتواند عملکرد شرکتهای بزرگ را محدود کند و نهادها را تشویق نماید «قدرت را در ایدهها قرار دهند، نه تنها در افراد»، که این رویکرد میتواند به غیرمتمرکزسازی کمک کند.
ریسکهای مدلهای بسیار توانمند و نیاز به آزمونهای ایمنی
آمودی مدلهای بازِ فاقد قابلیتهای خطرناک را «خیر عمومی» مینامد، اما هشدار میدهد زمانی که یک مدل به سطحی از توانایی برسد که بتواند به حملات جدی کمک کند، انتشار وزنها کنترل را دشوار یا ناممکن میسازد. تجربه نشان داده حتی پیش از انتشار عمومی وزنها، مهار رفتارهای خطرناک مدلها چالشبرانگیز است.
او خواستار اجرای آزمونهای اجباری ایمنی برای مدلهایی شده است که به سطحی از توانایی رسیدهاند که میتوانند مخاطرهآمیز باشند؛ این موضع با حمایت Anthropic از فراخوانهایی برای توقف موقت فعالیتهایی که در مرز توانمندی کار میکنند همخوانی دارد.
تعریف «مدلهای مرزی» و معیارهای فنی
Anthropic از تدوین قواعد و چارچوبهایی حمایت کرده که مدلهای «مرزی» را مشمول محدودیتهای سختگیرانهتر کند، در حالی که توسعهدهندگان کوچکتر را معاف بداند. یکی از معیارهای مورد اشاره، تعداد عملیات نقطهگرد یا FLOPs است؛ برای آشنایی بیشتر میتوانید به صفحه FLOPS در ویکیپدیا مراجعه کنید.
پیامدهای عملی برای سیاستگذار، توسعهدهنده و شرکتها
- برای سیاستگذاران: قانونگذاری باید مبتنی بر معیارهای فنی و قابل اندازهگیری باشد تا از سلطه نهادها جلوگیری و در عین حال ایمنی عمومی را تضمین کند.
- برای توسعهدهندگان کوچک: دسترسی به وزنهای باز ارزشمند است، اما برای اجرای مدلهای بزرگ نیاز به راهکارهای زیرساختی، خدمات ابری مقرونبهصرفه و دسترسی آسان به سختافزار وجود دارد.
- برای شرکتهای بزرگ: شفافیت در عملکرد و پایبندی به استانداردهای ایمنی میتواند ابزارهای تمرکز را محدود کند و فضای رقابت را بازتر سازد.
راهحل ترکیبی؛ قانونگذاری فنی بههمراه سرمایهگذاری در زیرساخت
نقدها و دفاعها هر دو بخشهایی از واقعیت را نشان میدهند: انتشار وزنهای باز میتواند نوآوری و تطبیقپذیری را افزایش دهد، اما بدون رفع گلوگاههای زیرساختی و تضمین استانداردهای ایمنی، این اقدام بهتنهایی منجر به توزیع واقعی قدرت نخواهد شد. آینده سیاستگذاری هوش مصنوعی احتمالاً در پیوند دادن مقررات فنی قابل سنجش با سرمایهگذاری در زیرساختهای محاسباتی قابل دسترس برای بازیگران کوچکتر نهفته است.
پرسش محوری از مالکیت مدل فراتر رفته است: اکنون باید پرسید چه کسانی به توان محاسباتی لازم دسترسی دارند. پاسخ به این پرسش تعیین خواهد کرد که آیا وزنهای باز میتوانند واقعاً نیرویی دمکراتیک بسازند یا صرفاً ماهیت تمرکز را تغییر میدهند بدون اینکه آن را از بین ببرند.
