انقلاب هوش مصنوعی امروز بر پایه ضرب ماتریسی استوار است. با رشد روزافزون مدلهای یادگیری عمیق، عملیات ضرب و تجمع ماتریسی به سنگینترین و هزینهبرترین بخش محاسباتی در آموزش و استنتاج مدلها تبدیل شد. معماریهای سنتی پردازنده گرافیکی که برای محاسبات عمومی ساخته شده بودند، توان برقراری تعادل میان کارایی، مصرف انرژی و مقیاسپذیری در این حجمهای کاری را از دست داده بودند. انویدیا برای غلبه بر این محدودیت، تنسور کور را معرفی کرد؛ یک واحد سختافزاری اختصاصی که با شتابدهی به محاسبات ماتریسی با دقت ترکیبی در سطح تراشه، مرزهای عملکرد GPUها را دگرگون ساخت.
پایان یک دوران؛ چرا معماریهای سنتی دیگر جواب نمیدادند؟
بررسی تاریخچه محاسبات نشان میدهد که پایان مقیاسبندی دنارد در اواخر دهه 2000 و کشتی گرفتن قانون مور در کاهش هزینه هر ترانزیستور در دهه 2010، راه را برای معماریهای جدیدی هموار کرد. در این شرایط، پیشرفت توان محاسباتی به عهده بستهبندیهای پیشرفته، چیدمان سهبعدی و معماریهای تخصصی مانند GPU سپرده شد. در حوزه هوش مصنوعی و یادگیری عمیق، این توسعه به سرعتی رخ داد که به قانون هوانگ معروف است. فناوری اصلی پشت این رشد شتابدار، تنسور کورها هستند؛ زیرساختی که اگرچه بسیاری از متخصصان از پیچیدگیهای آن آگاه نیستند، اما سنگ بنای سیستمهای هوشمند امروزی محسوب میشوند.
اصول بنیادین طراحی؛ عبور از محدودیتهای موازیسازی
طراحی تنسور کور بر سه اصل کلیدی مهندسی محاسبات استوار بود. اولین اصل، قانون امدال است که نشان میدهد برای یک مسئله با حجم مشخص، افزودن منابع محاسباتی تنها میتواند زمان اجرای بخش موازی را کاهش دهد و بهبود نهایی توسط بخش ترتیبی محدود میشود. اصل دوم تفاوت میان مقیاسبندی قوی و مقیاسبندی ضعیف است. مقیاسبندی قوی هدف دارد تا مسئلهای ثابت را سریعتر حل کند، در حالی که مقیاسبندی ضعیف امکان پردازش دادههای بزرگتر را در زمان ثابت فراهم میسازد. اصل سوم و مهمترین انگیزه طراحی این است که جابهجایی داده هزینهبر است و محاسبات ارزان. سرعت سوئیچینگ ترانزیستورها در مقیاس زیر نانوثانیه است، اما سلولهای DRAM دهها نانوثانیه زمان میبرند. این شکاف سرعت، نvidia را به سمت معماریهایی هدایت کرد که بیشترین بار محاسباتی را به ازای هر واحد داده جابهجا شده انجام دهند.
از کودا کور تا تنسور کور؛ تحول در هسته پردازشی
پیش از پیدایش تنسور کورها، کودا کورها ستون فقرات شتابدهی یادگیری عمیق بودند. هر کودا کور در هر چرخه ساعت فقط یک عملیات ممیز شناور را پردازش میکند. اگرچه هزاران هسته به موازیسازی عظیم کمک میکردند، اما عملکرد نهایی همچنان به تعداد هستهها و فرکانس آنها محدود میشد. برای شکستن این سقف، انvidia تنسور کور را طراحی کرد. این واحدها مستقیماً در داخل چندپردازندههای جریانی تعبیه شده و سه دسته اصلی منابع محاسباتی GPU را تکمیل میکنند:
- کودا کورها: مسئول پردازشهای عمومی و محاسبات ممیز شناور با دقت کامل.
- تنسور کورها: واحدهای تخصصی برای ضرب و تجمع ماتریسی با دقت ترکیبی.
- RT کورها: بهینهکنندههای پرتو نوری برای رندرینگ و شبیهسازی نور.
چگونه تنسور کور کار میکند؟
تفاوت اصلی تنسور کور در قابلیت اجرای عملیات ضرب و تجمع ماتریسی در یک چرخه واحد است. این معماری بهینهشده بر پایه دقت ترکیبی FP16، TF32، FP8 و INT8 بنا شده و فرآیند محاسبات را مستقیماً در سطح سیلیکون فشرده میکند. با ادغام عملیات بارگذاری داده، ضرب ماتریسی و اضافهسازی تجمعی، تنسور کور از گلوگاه حافظه دور میشود و بهرهوری سیستم را بهطور چشمگیری افزایش میدهد. این طراحی نه تنها سرعت آموزش مدلهای بزرگ زبانی و شبکههای عصبی را متحول کرد، بلکه ردپای کربن مصرفی برای هر عملیات درایو را نیز بهطور قابل توجهی کاهش داد.
توسعه معماری تنسور کور نشان داد که آینده محاسبات هوشمند در گرو تلفیق سختافزار تخصصی با الگوریتمهای بهینه است. با ادامه رشد مدلهای چندوجهی و تقاضای فزاینده برای استنتاج بلادرنگ، انتظار میرود نسلهای بعدی این سختافزارها با گنجاندن پشتیبانی از دقتهای پایینتر و قابلیتهای انعطافپذیرتر، مرزهای جدیدی در کارایی و مصرف انرژی ترسیم کنند. رقابت واقعی در این حوزه دیگر صرفاً عدد و رقم پردازندههای گرافیکی نیست، بلکه توانایی مهندسی زیرساختهایی است که بتوانند پیچیدگی هوش مصنوعی را به سادهترین و کارآمدترین شکل ممکن مدیریت کنند.
