گزارشها نشان میدهد گوگل برای توسعه یکی از TPUهای نسل دهم خود (v10) با AMD وارد همکاری شده است؛ هدف احتمالی، تولید TPU هیبریدی با هستههای پردازنده روی بسته است که برای بارهای یادگیری تقویتی و عاملمحور بهینهسازی شده باشد.
خبر اصلی
یادداشت تحلیلگران SemiAnalysis خبر از مشارکت گوگل و AMD در پروژهای از خانواده TPUهای نسل v10 میدهد. بهنظر میرسد انگیزهٔ اصلی دسترسی به IP هستههای CPU و تجربهٔ بستهبندی پیشرفته است تا ترکیب شتابدهندهٔ ماتریسی با محاسبات عمومی نزدیک به ماتریس تنسور.
تجربهٔ AMD و دلیل ورود به پروژه
AMD در طراحی CPU و بستهبندیهای پیچیده سابقهٔ چشمگیری دارد؛ نمونهٔ بارز، طراحی ترکیبی دیتاسنتر Instinct MI300A است که هستههای x86 را همراه با چیپلتهای شتابدهنده در یک بسته ترکیب میکند. همکاری با AMD میتواند به گوگل امکان دهد هستههای عمومی پردازنده را نزدیکتر به ماتریس تنسور قرار دهد تا تاخیر، هزینهٔ انتقال داده و مصرف انرژی کاهش یابد.
تمرکز بر یادگیری تقویتی و بارهای عاملمحور
آموزش کلاسیک مدلهای زبان بزرگ عمدتاً به شتابدهندههای ماتریسی متکی است، اما یادگیری تقویتی و بارهای عاملمحور نیازمند محاسبات عمومی بیشتری در پیرامون عملیات تنسور هستند. SemiAnalysis مینویسد مشتریان گوگل به TPUهایی علاقهمندند که هستههای CPU را روی بسته داشته باشند تا برای این نوع بارها عملکرد بهتری ارائه دهند. نمونهای از تغییرات نسبت CPU به شتابدهنده را میتوان در محصولاتی مانند TPU 8i دید؛ در آنجا نسبت CPU به شتابدهنده تغییر کرده است و برای هر دو TPU یک پردازنده Google Axion در نظر گرفته شده است.
پیامدهای فنی
- کاهش تاخیر: قرارگیری هستههای CPU نزدیک ماتریس تنسور میتواند تاخیر ارتباطی را کاهش دهد و پاسخدهی در بارهای RL را بهبود بخشد.
- صرفهجویی در انرژی: تبادل دادهٔ محلی مصرف انرژی را کاهش میدهد و نیاز به اتصالات پهنباند خارجی را کم میکند.
- معماری هیبریدی: ترکیب چیپلتهای شتابدهنده با هستههای x86 یا معادل آن، مسیر جدیدی برای طراحی شتابدهندههای دیتاسنتر باز میکند و انعطافپذیری در اجرای بارهای مختلط را افزایش میدهد.
نکات نامشخص و سناریوهای احتمالی
طبیعت دقیق مشارکت روشن نیست: آیا AMD صرفاً مسئول بستهبندی و چیپلت خواهد بود، یا IP هستههای CPU را در اختیار میگذارد، یا بخشی از طراحی سیلیکون را برعهده میگیرد؟ احتمال دارد گوگل محصول یا پیکربندی جدیدی در خانواده v10 معرفی کند که مختص RL و استدلال عاملمحور باشد و فرمهای سنتی v10i (استنتاج) یا v10t (آموزش) را تکمیل کند.
تبعات برای دیتاسنترها و اکوسیستم شتابدهندهها
افزایش گرایش به TPUهای هیبریدی تغییراتی در طراحی سرورها، مدیریت توان، خنکسازی و ابزارهای نرمافزاری موردنیاز اپراتورهای دیتاسنتر ایجاد خواهد کرد. نسبت بالاتر CPU به شتابدهنده نیازمند بازنگری در معماری نرمافزاری، چارچوبهای آموزش و جابجایی بارها میان منابع مختلف است و میتواند به ظهور سختافزارهای جدید برای بارهای مختلط بینجامد.
جمعبندی و چشمانداز
اگر گزارشها تأیید شوند، اهمیت رخداد در جهتگیری معماری است: تمرکز کمتر صرف بر ماتریسهای تنسور و گرایش بیشتر به معماریهای هیبریدی که محاسبات عمومی و تنسوری را در کنار هم قرار میدهند. چنین تغییری هم در لایهٔ سختافزار و هم در نرمافزار پیامدهای گستردهای خواهد داشت و میتواند روند طراحی شتابدهندههای دیتاسنتر را دگرگون کند.
منابع برای مطالعه بیشتر: AMD، یادگیری تقویتی و تحلیلهای Tom's Hardware.
