مریم آریک، هم‌بنیان‌گذار Doubleword، در سخنرانی‌اش در QConAI 2030 شش پیش‌بینی عملی و قابل‌اجرا دربارهٔ هزینهٔ استنتاج، زیرساخت‌ها، عامل‌ها و مسیر شغلی مهندسان مطرح کرد. این نکات برای پذیرندگان اولیه و تصمیم‌گیرندگان فناوری در سازمان‌ها کاربردی و قابل آزمون است.

چارچوب فکری و سابقه

آریک از تجربهٔ خود در استنتاج با توان عملیاتی بالا یاد کرد و به سخنرانی TEDx پس از عرضهٔ ChatGPT اشاره نمود. او هشدار داد که کمبود منابع سخت‌افزاری می‌تواند گلوگاهی جدی باشد و به رشد ارزش شرکت‌هایی مثل NVIDIA به‌عنوان نشانه‌ای از این پدیده اشاره کرد. آریک پذیرفت که برخی پیش‌بینی‌ها ممکن است تغییر کند، اما تأکید نمود دیدگاه‌هایش قابل‌پیگیری و سنجش هستند.

۱. هزینهٔ توکن و مدیریت استنتاج تا 2030

او پیش‌بینی کرد «هزینهٔ توکن» تا سال 2030 به یکی از بزرگ‌ترین دغدغه‌های سازمان‌ها بدل می‌شود. نمونه‌هایی از مصرف ناگهانی اعتبار مدل‌ها و افزایش هزینهٔ فناوری اطلاعات در بنگاه‌ها نشان می‌دهد این مسئله تازه در آغاز راه است.

  • فروش با یارانهٔ مدل‌ها فرضیِ رایج است؛ آریک می‌گوید بخش استنتاج می‌تواند برای ارائه‌دهندگان سودآور باشد.
  • نیاز فوری به سیاست‌های شفاف تخصیص هزینهٔ توکن و ابزارهای گزارش‌دهی دقیق وجود دارد.

۲. انفجار کد و افزایش سازنده‌ها

ورود گستردهٔ مدل‌ها و عامل‌ها به جریان‌های کاری سازمانی باعث افزایش چشمگیر تولید کد می‌شود. این روند دو مرحله خواهد داشت: سرعت‌گیری تولید و سپس نیاز به استانداردسازی، تست و مدیریت وابستگی‌ها.

  • سرمایه‌گذاری روی مهارت‌های پایه‌ای مهندسی نرم‌افزار—دیباگ، تست و مانیتورینگ—بیش از صرفاً استفاده از مدل‌ها ضروری است.
  • ابزارهای داخلی کنترل نسخهٔ prompt و آدیت تعامل با مدل‌ها به استاندارد تبدیل خواهند شد.

۳. تحول زیرساخت: فراتر از GPU

آریک تأکید کرد تمرکز صرف روی خرید GPU کافی نیست؛ به طراحی لایه‌هایی نیاز است که هزینه، تاخیر و بهره‌وری را هم‌زمان بهینه کنند. گلوگاه‌های نرم‌افزاری و شبکه‌ای به‌همان اندازهٔ گلوگاه سخت‌افزاری اهمیت دارند.

صحنه‌ای از سخنرانی مریم آریک در QConAI 2030

نکات عملی برای تیم‌های زیرساخت

  • سیاست‌های دقیق برای استفادهٔ اشتراکی از مدل‌ها و تخصیص منابع تعریف کنید.
  • شاخص‌های عملکرد (SLI/SLO) برای سرعت پاسخ و هزینه تنظیم کنید و تصمیم‌های خرید را بر پایهٔ داده بگیرید.

۴. عامل‌ها و شکل جدید برنامه‌های کاری

عامل‌ها سریعاً از آزمایشگاه‌ها به جریان‌های کاری عملیاتی وارد می‌شوند. در نقش‌های تکرارشونده، عامل‌ها می‌توانند هزینه‌ها را کاهش و سرعت تصمیم‌گیری را افزایش دهند؛ اما شفافیت، مسئولیت‌پذیری و قابلیت آدیت تصمیم‌های عامل‌ها برای پذیرش سازمانی تعیین‌کننده خواهد بود.

۵. مقررات: تغییر تدریجی اما مؤثر

مقررات احتمالاً شوک‌آور و ناگهانی نخواهند بود، اما طی چند سال آینده رفتار بازار را تغییر می‌دهند. آریک توصیه کرد سازمان‌ها از هم‌اکنون زیرساخت‌های آدیت و ثبت تعاملات مدل را آماده کنند تا در مواجهه با معیارهای تطابق و پاسخگویی آماده باشند. برای مرور مفاهیم گسترده‌تر می‌توانید به صفحهٔ AGI مراجعه کنید.

۶. مسیر شغلی مهندسان در دههٔ پیش‌رو

نقش‌های مهندسی شفاف‌تر و چندوجهی می‌شوند؛ مهندسانی موفق خواهند بود که هم داده، هم مدل و هم جنبه‌های عملیاتی را بدانند. مهارت‌هایی مانند کنترل هزینهٔ استنتاج، طراحی SLO و تحلیل اثرات رفتاری مدل‌ها باید به مهارت‌های پایه تبدیل شوند.

جمع‌بندی و پیشنهادهای عملی

آریک سه اولویت عملی برای سازمان‌ها تعیین کرد: تعریف مدل‌های هزینه و بودجهٔ توکن، پیاده‌سازی لایه‌های آدیت و مانیتورینگ برای تعامل با مدل‌ها، و آغاز برنامهٔ آموزش و بازطراحی نقش‌ها برای مهندسان. او هشدار داد چنانچه مرزهای تحقیق سریع‌تر پیش برود، این تغییرات زودتر از آنچه انتظار می‌رود رخ خواهند داد.

پیشنهادهای عملی کوتاه‌مدت

  • حسابرسی سریع مصرف توکن انجام دهید و آستانه‌های هزینه را تعریف کنید.
  • پلن آموزشی سه‌ماهه برای مهندسین دربارهٔ استنتاج و مدیریت عامل‌ها طراحی کنید.
  • در معماری، SLOهایی برای هزینه و تاخیر تعریف کرده و ابزارهای گزارش‌دهی مناسب پیاده کنید.

سخنرانی آریک مبتنی بر تجربهٔ عملی و تمرکز بر گلوگاه‌هاست؛ سازمان‌هایی که امروز عملیات و هزینهٔ استنتاج را مدیریت کنند، در سال‌های آینده برتری عملیاتی قابل‌توجهی به‌دست خواهند آورد. برای مطالعهٔ بیشتر می‌توانید گزارش‌های تحلیلی شرکت‌هایی مانند Deloitte و مطالب تحلیلی در TechCrunch را دنبال کنید.