گوگل در پروژه‌ای محرمانه تراشه‌ای تازه به نام Frozen v2 را آماده می‌کند که معماری مدل هوش مصنوعی جمینای را مستقیماً درون سخت‌افزار پیاده می‌کند. این رویکرد جدید می‌تواند تحولی در کارایی استنتاج هوش مصنوعی ایجاد کند و هزینه‌ها را به‌شدت کاهش دهد.


بر اساس گزارش The Information، این تراشه تخصصی در پاسخ‌دهی به درخواست‌های هوش مصنوعی بین ۶ تا ۱۰ برابر از تراشه‌های TPU کنونی گوگل بازدهی بیشتری خواهد داشت. استقرار اولیه این قطعه برای سال ۲۰۲۸ برنامه‌ریزی شده و گوگل آن را آزمایشی برای تراشه‌های خاص‌منظوره می‌داند، با حجم تولیدی بسیار کمتر از خط TPU خود.


تفاوت Frozen v2 با TPU‌های گوگل


TPU‌های گوگل برای اجرای مدل‌های گوناگونی طراحی شده‌اند، اما Frozen v2 بخش‌هایی از ساختار مدل جمینای را به‌صورت ثابت و سخت‌افزاری در خود جای می‌دهد. نام این تراشه از مفهوم «فریز کردن» پارامترها در مدل‌های هوش مصنوعی گرفته شده است؛ یعنی جایی که مقادیر قفل می‌شوند تا دیگر تغییر نکنند. در Frozen v2، بخشی از مدل به‌شکل دائمی درون تراشه تثبیت می‌شود و همین موضوع گام‌های محاسباتی را کاهش داده و سرعت پاسخگویی را افزایش می‌دهد.


ایده اولیه این تراشه متعلق به جف دین، دانشمند ارشد گوگل دیپ‌مایند است. طرح اولیه او (Frozen ۱) جاسازی مستقیم وزن‌های مدل در تراشه را پیشنهاد می‌کرد. وزن‌ها همان تنظیمات دقیقی هستند که نحوه واکنش مدل به پرسش‌ها را تعیین می‌کنند. گوگل به‌سرعت از این ایده صرف‌نظر کرد، چون آن تراشه فقط با یک نسخه خاص از جمینای کار می‌کرد و به‌زودی منسوخ می‌شد.


معماری به جای وزن؛ انعطاف‌پذیری بیشتر


Frozen v2 راهی منعطف‌تر را برگزیده است: به‌جای وزن‌ها، معماری مدل را روی سیلیکون پیاده می‌کند. به عبارت دیگر، نقشه اصلی مدل در سخت‌افزار حک می‌شود، نه پارامترهای تنظیم‌شده. بنابراین وزن‌های جدید همچنان قابل بارگذاری روی تراشه خواهند بود. هنوز مشخص نیست چه میزان از معماری جمینای به‌صورت سخت‌افزاری کدگذاری خواهد شد.


فقط برای مصرف داخلی؛ مزیت رقابتی در استنتاج هوش مصنوعی


از آنجا که این تراشه تنها تا زمانی کارآمد است که گوگل به یک معماری ثابت پایبند بماند، احتمالاً به محصولی برای مشتریان خارجی تبدیل نخواهد شد. این در حالی است که گوگل اکنون TPU‌های خود را به شرکت‌هایی مانند متا اجاره می‌دهد و از طریق برنامه «TPU@Premises» آن‌ها را به‌عنوان جایگزینی برای انویدیا با هدف تصاحب ۱۰ درصد از درآمد سالانه انویدیا معرفی می‌کند. Frozen v2 اما برای کاهش فشار داخلی بر ظرفیت محاسباتی هوش مصنوعی گوگل طراحی شده است.


اگر این تراشه به وعده‌اش عمل کند، می‌تواند به یک برگ برنده بزرگ تبدیل شود. در کسب‌وکار هوش مصنوعی، بهینه‌سازی هزینه‌های استنتاج به‌طور مستقیم بر حاشیه سود شرکت‌ها تأثیر می‌گذارد. گوگل با کمک Frozen v2 می‌تواند مدل‌های بسیار قدرتمند را با قیمت‌های پایین‌تری ارائه دهد و سهم بازار رقبایی مانند OpenAI و Anthropic را کاهش دهد.


تراشه Frozen v2 گوگل معماری جمینای روی سیلیکون

پروژه Frozen v2 نشان می‌دهد که گوگل به‌دنبال عمیق‌ترین سطح بهینه‌سازی ممکن برای مدل‌های پرچمدار خود است. در جهانی که هر میلی‌ثانیه تأخیر و هر وات مصرفی در استنتاج هوش مصنوعی به ارزشی رقابتی تبدیل شده، جاسازی معماری مدل در سیلیکون می‌تواند استاندارد تازه‌ای تعریف کند.