استریپ خرید OpenRouter را نهایی کرد و ظرف 70 دقیقه رَمپ روتر داخلی خود را رونمایی نمود. این رویداد نشان می‌دهد رقابت تازه در حوزهٔ هوش مصنوعی دیگر صرفاً بر سر مدل‌ها نیست، بلکه بر سر «روتر هوش مصنوعی» و مسیر‌دهی درخواست‌ها میان مدل‌ها و ارائه‌دهندگان مختلف متمرکز شده است.

چه اتفاقی افتاد؟

گزارش‌های Bloomberg و Axios قیمت معاملهٔ OpenRouter را بین ۷ تا بیش از ۸ میلیارد دلار برآورد کرده‌اند، اگرچه استریپ جزئیات رسمی منتشر نکرده است. هم‌زمان رَمپ محصول روتر داخلی خود را معرفی کرد و اعلام کرده که می‌تواند هزینه‌ها را تا حدود ۴۰٪ کاهش دهد.

روتر هوش مصنوعی چیست و چرا اهمیت دارد؟

روتر هوش مصنوعی لایهٔ نرم‌افزاری‌ای است که تصمیم‌گیری دربارهٔ انتخاب مدل یا ارائه‌دهندهٔ مناسب را از زمان توسعه به زمان اجرا موکول می‌کند. به‌جای هاردکد کردن نام یک مدل در کانفیگ یا کد، روتر با توجه به نوع درخواست، کیفیت مورد انتظار و هزینهٔ پردازشی، مسیر درخواست را به‌صورت پویا تعیین می‌کند. آندِری کارپاتی این ابزار را نوعی «سوئیچ انتقال» برای هوش مصنوعی توصیف کرده است (Andrej Karpathy).

نمایی از مفهوم روتر هوش مصنوعی و شبکه ارائه‌دهندگان مدل

چرا انتخاب مدل باید به زمان اجرا موکول شود؟

  • صرفه‌جویی در هزینه: در عمل دیده شده که اجرای یک وظیفهٔ یکسان روی دو مدل متفاوت ممکن است به ترتیب حدود ۱.۵۰ و ۹ دلار هزینه داشته باشد، در حالی که خروجی‌ها بسیار مشابه‌اند؛ انتخاب پویا می‌تواند هزینه‌ها را به‌طور قابل‌توجهی کاهش دهد (Mitchell Hashimoto).
  • پیشگیری از مصرف مخفی توکن‌ها: برخی APIها قبل از تولید پاسخ حجم زیادی توکن مصرف می‌کنند؛ با تغییر نحوهٔ بارگذاری مستندات می‌توان آن را از صدها هزار به ده‌ها هزار توکن کاهش داد (مطالعاتی در مورد عملکرد برخی ارائه‌دهندگان مانند Anthropic وجود دارد).
  • خودکارسازی تریاژ: روترها امکان تصمیم‌گیری خودکار برای هر درخواست را فراهم می‌کنند، نه تنها برای مواردی که توسعه‌دهنده از پیش پیکربندی کرده است.

رویکرد استریپ و رَمپ چه تفاوتی دارد؟

استریپ با تکیه بر تجربهٔ قبلی در مسیریابی تراکنش‌های پرداخت، از زاویهٔ توسعه‌دهنده وارد شده است: ارائهٔ یک لایهٔ متحد که برای هر درخواست مدل مناسب را انتخاب و هزینه‌ها را کنترل می‌کند. هدف استریپ تسلط بر «خط لولهٔ هوش» در جریان توسعه نرم‌افزار است و در اسناد خود این هدف را شفاف بیان کرده است.

رَمپ بیشتر از دیدگاه مالی و مدیریت صورتحساب به موضوع نگاه می‌کند. رَمپ که دامنهٔ ramp.com را در اختیار دارد، تأکید می‌کند که مشتریانش پیش از این حجم عظیمی از توکن‌ها را از طریق پلتفرم او مدیریت می‌کردند و حالا می‌خواهد کنترل هزینه و صورتحساب هوش مصنوعی را در سطح سازمانی در دست بگیرد. یکی از مدیران رَمپ این استراتژی را این‌گونه توصیف کرد: «وقتی یک CFO محصولی برای CTO می‌فرستد، مسیر تصمیم‌گیری متفاوت می‌شود.»

پیامدها برای تیم‌های فنی و مالی

این رقابت موجب می‌شود شرکت‌ها نحوهٔ مصرف توکن‌ها و مدلِ قیمت‌گذاری را بازبینی کنند. نکاتی که تیم‌های فنی باید در نظر داشته باشند:

  • کاهش بارهای غیرضروری در کانتکست، مانند تکرار پرامپت‌های سیستمی یا ارسال تاریخچهٔ مکالماتِ غیرضروری.
  • بارگذاری مستندات به‌صورت درخواست‌محور (on-demand) به‌جای پیش‌بارگذاری کامل برای صرفه‌جویی در توکن‌ها.
  • پیاده‌سازی RAG با اندازهٔ مناسب چنک‌ها و فرمت‌کردن داده‌ها پیش از قرارگیری در کانتکست.

چه انتظاری باید داشت؟

روترهای هوش مصنوعی می‌توانند به یکی از اجزای کلیدی استک تبدیل شوند و رقابت را از انتخاب «بهترین مدل» به مالکیت «لایهٔ تصمیم» تبدیل کنند. استریپ از طریق نزدیکی به توسعه‌دهندگان به دنبال کنترل جریان و هزینهٔ هوش است و رَمپ با تمرکز بر مدیریت مالی سازمانی تلاش می‌کند کنترل صورتحساب را در اختیار بگیرد.

آیندهٔ بهینه‌سازی هزینه و عملکرد مدل‌ها دیگر تنها یک چالش مهندسی نیست؛ موضوعی میان‌بخشی است که تیم‌های توسعه، مهندسی مدل و مالی را به‌تصمیم‌گیری و پذیرش سیاست‌ها و ابزارهای جدید وا می‌دارد. در ماه‌ها و سال‌های آینده باید منتظر باشیم روترها نه تنها ساختارهای فنی را تغییر دهند، بلکه چارچوب‌های جدیدی برای حاکمیت هزینه و شفافیت در مصرف هوش مصنوعی شکل دهند.

منابع مرتبط: Bloomberg، Axios و مطالب تحلیلی دربارهٔ تأثیر روترها در مدیریت هزینهٔ هوش مصنوعی.