IBM مجموعه جدید Granite 4.2 را معرفی کرد: سه مدل چگال تنها-رمزگشا در اندازه‌های 3 میلیارد، 8 میلیارد و 30 میلیارد پارامتر که از صفر پیش‌آموزش داده شده و برای کارهای استدلالی و عاملیت‌محور طراحی شده‌اند.

ویژگی‌های برجسته Granite 4.2

در حالی که برخی رقبا به معماری‌های ترکیبی مانند Mamba/attention یا طرح‌های MoE روی آورده‌اند، IBM مسیر متفاوتی انتخاب کرده و به ترنسفورمرهای چگال و معماری تمام‌توجه بازگشته است. نسل‌های قبلی Granite آزمایش‌های متنوعی داشتند ولی خانوادهٔ اصلی در 4.2 حول سادگی معماری و بهینه‌سازی برای استدلال تکمیل شده است.

حالت‌های عملکردی و مکانیسم استدلال

مدل‌های Granite 4.2 سه حالت عملیاتی ارائه می‌دهند: حالت «تفکر» برای پردازش‌های تفصیلی و استدلالی، حالت «بدون تفکر» برای پاسخ‌های سریع و غیر‌استدلالی، و یک حالت کم‌مصرف که برای پرسش‌های ساده با تعداد اندکی توکن استدلال طراحی شده است. این انعطاف امکان تنظیم توازن بین هزینه و کیفیت استدلال را برای سازمان‌ها فراهم می‌کند.

پیش‌آموزش، پنجرهٔ زمینه و داده‌ها

  • مدل‌ها تحت مجوز Apache 2.0 منتشر شده‌اند.
  • فرایند پیش‌آموزش روی مجموعه‌ای شامل حدود 15 تریلیون توکن انجام شده و در پنج فاز اجرا شده است. یکی از فازها آموزش زمینه بلند است که پنجرهٔ زمینه خانواده را تا 512000 توکن افزایش می‌دهد؛ پیکربندی منتشرشده به‌صورت بومی از 128K پشتیبانی می‌کند.
  • حدود 1 تریلیون توکن کد مصنوعی از طریق خط لوله داخلی IBM به نام CodeAlchemy تولید شده، اما عملکرد کلی مدل‌ها در کدنویسی همچنان در سطح متوسط گزارش شده است.

عاملیت، فراخوانی ابزار و هم‌راستاسازی

نسخه‌های 8B و 30B تحت فرایند یادگیری تقویتی با تاکید بر عاملیت قرار گرفته‌اند تا توانایی فراخوانی ابزارها، ویرایش و اجرای کد، کار در ترمینال و جستجوی وب را بهبود بخشند. این مرحله همراه با RLHF منجر به مدل‌هایی شده که برای وظایف چندمرحله‌ای و پیچیده مناسب‌ترند. مدل 3B نیز از فراخوانی ابزار پشتیبانی می‌کند اما توانمندی‌های عاملیت آن محدودتر است.

نمای گرافیکی Granite 4.2 و معماری مدل

بنچمارک‌ها و عملکرد عملی

در بنچمارک‌های عمومی Granite 4.2 تغییرات بنیادین نسبت به رقبا نشان نمی‌دهد، ولی نکته قابل توجه این است که مدل 8B در بسیاری از موارد به عملکرد نزدیک به مدل 30B دست می‌یابد؛ خصوصیاتی که اجرای آن را روی سخت‌افزارهای مرسوم مانند مک‌های مدرن و کارت‌های گرافیک میان‌رده NVIDIA ساده‌تر می‌کند. با این حال، در حوزه‌هایی مانند کدنویسی برخی رقبای بزرگ‌تر همچنان بهتر عمل می‌کنند و عملکرد IBM در این زمینه ناپیوسته گزارش شده است.

کاربردهای مناسب برای Granite 4.2

نقطه قوت این خانواده، اجرا در سناریوهای عاملیت‌محور با نیاز به خروجی پایدار و تعامل با ابزارها است: عامل‌هایی که باید در جریان‌های کاری واقعی برنامه‌ریزی و وظایف چندمرحله‌ای را با کنترل هزینه اجرا کنند. بنابراین سازمان‌هایی که به عامل‌های عملیاتی، قابل کنترل و قابل استقرار نیاز دارند، از Granite 4.2 بهره خواهند برد.

چشم‌انداز و احتمالات آتی

IBM هم‌زمان با Granite 4.2 دو مدل جدید تشخیص گفتار معرفی کرده و پیش از این نسخه‌های بینایی مانند Granite Vision 4.1 4B عرضه شده بودند؛ بنابراین امکان انتشار نسخه‌های بینایی یا ترکیبی از سری 4.2 دور از انتظار نیست. گزینهٔ استدلال به‌عنوان یک قابلیت اختیاری نیز نشان‌دهنده تلاش برای متعادل کردن هزینه و اثربخشی در کاربردهای مختلف است.

نکات سریع

  • ابعاد مدل‌ها: 3B، 8B، 30B پارامتر.
  • پیش‌آموزش: حدود 15 تریلیون توکن؛ پنجرهٔ زمینه تا 512000 توکن (پیکربندی منتشرشده: 128K).
  • مجوز: Apache 2.0.
  • ویژگی‌ها: چند حالت استدلالی، فراخوانی ابزار، RLHF برای مدل‌های 8B و 30B.

Granite 4.2 نشان می‌دهد که برخی بازیگران بزرگ هنوز روی سادگی معماری همراه با بهینه‌سازی برای وظایف عاملیت‌محور سرمایه‌گذاری می‌کنند؛ مسیری که برای کسب‌وکارهایی که به عامل‌های کنترل‌شده و اقتصادی نیاز دارند، گزینه‌ای معقول و عملیاتی‌تر از مدل‌های بسیار حجیم فراهم می‌آورد.