مدلهای کوچکتری که امکان اجرای آنها روی سیستمهای رومیزی فراهم شده است، به بلوغ چشمگیری رسیدهاند. پرسش اساسی دیگر امکان اجرای محلی آنها نیست، بلکه نحوه بهرهگیری و استراتژی سازمانها برای حداکثرسازی کارایی این مدلهاست.
جویی کانوی، مدیر ارشد نرمافزار هوش مصنوعی مولد انویدیا، در گفتوگو با The New Stack توضیح میدهد که چگونه مدلهای محلی و متنباز در کنار مدلهای پیشرفته (Frontier) قرار میگیرند و اغلب یک مسیریاب تصمیمگیرنده، مسیر پردازش را تعیین میکند. او تاکید میکند که سازمانها میتوانند این مدلهای متنباز را برای نیازهای اختصاصی خود شخصیسازی کنند.
«ما جهانی را که بتوانیم از هر دو مدل پیشرفته و متنباز با هم استفاده کنیم دوست داریم.» — جویی کانوی، انویدیا
سیستمی از مدلهای متنوع
کانوی معتقد است پیچیدگی وظایف متفاوت است و مدلهای مدیریتکننده آنها نیز باید متنوع باشند. او به مدلهای استدلال متنباز اولیه اشاره میکند که برای حل مسائل ساده، فرآیندهای طولانی تفکر را طی میکردند. مثال او روشن است: برای محاسبه دو به علاوه دو نیازی به طی کردن خطوط اعداد و بررسی حافظه نیست و مدل باید مستقیماً پاسخ چهار را ارائه دهد.
«توانایی مسیریابی کارهای ساده به مدلهای محلی با سرعت بالا و ارجاع کارهای پیچیده به مدلهای پیشرفتهتر، امکان دستیابی به نتایج بهتر با هزینه و زمان کمتر را فراهم میکند.»
این رویکرد با تصویر رایج یک مدل غولپیکر که همه کارها را انجام میدهد، متفاوت است. در این چشمانداز، مجموعهای از متخصصان شکل میگیرد. نمایندههای تخصصی با تمرکز بر وظایف مشخص، روزانه عملکرد خود را بهبود میبخشند. از دید کاربر، این پیچیدگی پنهان است و تنها یک رابط واحد احساس میشود، اما در پسزمینه مدلهای مختلف وظایف متفاوتی را مدیریت میکنند.
چالش مسیریابی و نقش انویدیا
تحقق این چشمانداز در گرو حل مسائل مسیریابی است که هنوز در مراحل اولیه قرار دارد. سهم انویدیا در حال حاضر در لایههای پایینتر زیرساخت و نرمافزارهای ارائه استنتاج (Inference-serving) متمرکز شده است. نرمافزار متنباز دینامو (Dynamo) نمونهای از این تلاشهاست که کوئریها را به پردازنده گرافیکی (GPU) که اخیراً آن را پردازش کرده هدایت میکند.
انتخاب مدل مناسب برای هر وظیفه به سامانههای مسیریاب واگذار میشود که عواملی چون بودجه، تاخیر و نوع داده را بررسی میکنند. با این حال، کانوی امکان توسعه بخشهایی از این سیستم مسیریابی توسط خود انویدیا در آیندهای نزدیک را رد نمیکند.
انویدیا به همکاری خود با لنگچین اشاره میکند. چارچوب دیپ اجنتز (Deep Agents) این شرکت روی مدل متنباز 550 میلیارد پارامتری نموترون 3 الترا (Nemotron 3 Ultra) انویدیا اجرا شد و توانست در کارهای تجاری با هزینهای تا 10 برابر کمتر، با مدلهای بسته برتر رقابت کند. این موفقیت بدون نیاز به آموزش مجدد به دست آمد و دستاوردها نتیجه تنظیم دقیق پرامپتها، توضیحات ابزار و میانافزار بود.
انتقال هوش مصنوعی به بستر دادهها
اجرای مدلهای 550 میلیارد پارامتری روی کامپیوترهای شخصی فعلاً دور از دسترس است، اما با داشتن سختافزار قدرتمند، اجرای محلی مدلهای بزرگ به واقعیت تبدیل شده است. راهاندازی شبکهای از شتابدهندهها در مراکز داده برای سازمانها هزینه بالایی دارد، اما کنترل کامل و جلوگیری از هزینههای غیرمنتظره توکن را به همراه دارد.
کانوی بر اهمیت کنترل دادهها بیش از صرفهجویی هزینهای تاکید دارد. مدلهای متنباز به سازمانها اجازه میدهند هوش مصنوعی را به محل نگهداری دادهها یا محل حضور کارکنان منتقل کنند. حفظ دادهها و داراییهای فکری درونسازمانی با استفاده از مدلهای متنباز فاینتیون شده امکانپذیر است. کانوی این مدل را به کارمندی تشبیه میکند که استخدام شده و بخشی از هویت شرکت میشود.
بخش محلی این سیستم روی سختافزارهایی نظیر دیجیایکس اسپارک (DGX Spark) انویدیا اجرا میشود. این دستگاه با قیمت 4699 دلار، دارای 128 گیگابایت حافظه یکپارچه است و میتواند مدلهایی تا حدود 200 میلیارد پارامتر را بدون خروج دادهها از میز کار شما پردازش کند. مدل بزرگتر و گرانتر این خانواده، دیجیایکس استیشن (DGX Station) نام دارد که با 748 گیگابایت حافظه برای اجرای مدلهای حجیمتر طراحی شده است.
«این سیستم درست در کنار شما قرار دارد،» کانوی میگوید. سیستمی که امکان پردازش هوشمند را بدون وابستگی به خدمات ابری فراهم میکند و مرزهای جدیدی در دنیای هوش مصنوعی محلی و سازمانی ترسیم میکند.
