مدلهای هوش مصنوعی با وزنهای باز چینی با رشد چشمگیر تواناییها و محبوبیتشان، موج تازهای از بحثها درباره نحوه برخورد با آنها برانگیختهاند. گمانهزنیها درباره احتمال ممنوعیت این مدلها توسط دولت ترامپ و نگرانیهای فزاینده شرکتهایی مانند OpenAI و Anthropic، فضای رقابتی بازار را ملتهبتر کرده است. اما یک آزمایشگاه آمریکایی موضع کاملاً متفاوتی اتخاذ کرده است.
مدلهایی مانند Kimi K3 از Moonshot AI یا Qwen از علیبابا، استنتاج را با هزینهای بسیار پایینتر از مدلهای منبعبسته ارائه میدهند. این موضوع حاشیه سود آزمایشگاههای بزرگ هوش مصنوعی اختصاصی را بهشدت تحت فشار قرار داده است. ترس اصلی این است که این مدلها میتوانند مسیری برای نفوذ هکرهای چینی به مراکز داده سازمانها باشند.
لوکاس اتکینز، مدیر فنی آرسی (Arcee)، استارتاپی که مدلهای متنباز را برای ارائه جایگزینی بومی به شرکتهای آمریکایی توسعه میدهد، این نگران را رد میکند. او تأکید میکند که مدلهای باز چینی خطرناکتر از هر نرمافزار متنباز دیگری نیستند که یک سازمان ممکن است استفاده کند و حتی برای شرکت خودش هم مزایایی دارند.
ترس از نفوذ یا ترس از رقابت؟
اتکینز توضیح میدهد که بسیاری از افراد این مدلها را شبیه یک برنامه نرمافزاری چینی میبینند که با نیتهای خاصی برنامهنویسی شده تا یک عامل مخرب بتواند آن را فرمان دهد. اما او این تصور را اساساً اشتباه میداند:
«این روش آموزش این مدلها نیست. هیچ راهی برای آرسی یا علیبابا وجود ندارد که مدلی بسازد، کسی آن را در محیط خودش اجرا کند و ما دسترسیای به آن داشته باشیم.»
شفافیت کد منبع و الزامات امنیتی
بیشتر این مدلها بهعنوان «وزن باز» (Open Weight) شناخته میشوند و نرمافزار کاملاً متنباز محسوب نمیشوند. با این حال، کد منبعی که روی سرورها اجرا میشود، در صورت دانلود از پلتفرمهایی مانند Hugging Face، تا حد زیادی قابل مشاهده و بررسی است. تنها بخشی که در دسترس قرار ندارد، روشها و دادههای استفادهشده برای آموزش مدلهاست.
سازمانهای بزرگ باید هسته هر مدلی را از فرآیندهای آزمون و بازرسی امنیتی خود عبور دهند. این فرآیند معمولاً شامل موارد زیر است:
- پسآموزش مدلها برای کاربردهای خاص سازمان
- بررسی سوگیری و سمت در پاسخها
- ارزیابی توهمات و حساسیت به موضوعات خاص
- بهینهسازی و درک عمیق مدل پیش از دریافت درخواستهای کاربران
احتمال درج درهای پشتی مخرب در کد
یکی از سوالات کلیدی این است که آیا مدلی که برای کدنویسی استفاده میشود میتواند درهای پشتی مخربی در کدی که تولید میکند قرار دهد؟ اتکینز این احتمال را از نظر تئوری قابل تصور میداند، اما انجام آن را نیازمند تلاشهای بسیار پیچیدهای توصیف میکند:
«هیچ دلیلی وجود ندارد که یک عامل پیشرفته نتواند مدلی را آموزش دهد که در هر شرایطی یک مدل کدنویسی عالی باشد، اما وقتی با نوع خاصی از پایگاه کد مواجه میشود، آموزش پنهانی فعال شود. اما نمیدانم چگونه این کار را انجام دهید.»
مدلهای زبانی بزرگ ذاتاً خلاق هستند و احتمال اینکه یک مدل معاصر در پاسخ به ترکیب خاصی از زمینه و درخواست، بدافزار تولید کند، بسیار اندک است. احتمال اینکه یک سازمان هم از آن کد استفاده کند، حتی کمتر است.
آینده رقابت در اکوسیستم هوش مصنوعی
سازمانها اپلیکیشنهای هوش مصنوعی خود را بهگونهای میسازند که مستقل از مدل باشند و از چندین مدل بهطور همزمان استفاده کنند. این رویکرد تضمین میکند که حتی اگر مدلهای چینی امروز از نظر قیمت بهترین گزینه باشند، سازمانها برای همیشه به استفاده از آنها محدود نخواهند شد.
اتکینز بر این باور است که بهجای تمرکز بر ممنوعیت مدلهای چینی، باید درباره نحوه پرورش یک اکوسیستم باز و سالم در ایالات متحده گفتوگو کرد. او حتی اشاره میکند که آرسی از مدلهای چینی سود میبرد، زیرا میتوانند یاد بگیرند چه کار کردهاند و روی آنها بسازند:
«ما احترام زیادی برای پژوهشگرانی که آن مدلها را میسازند قائلیم. راه رقابت با مدلهای چینی، انتشار مدلی است که بهتر باشد.»
