مایکروسافت برای کنترل هزینههای داخلی، مصرف مدلهای زبانی را با «بودجه توکن» مدیریت میکند و خبر توسط CNBC تایید شده است. مهندسان امکان پیگیری هزینههای فردی را دارند و GitHub Copilot بهصورت پیشفرض روی مدل GPT-5.6 Sol تنظیم شده است؛ نشانهای از تمرکز بر «اثر هر توکن» بهجای صرفاً کاهش هزینه.
تغییرات کلیدی
جِی پریخ، معاون اجرایی مایکروسافت، در ایمیلی داخلی اعلام کرده که از ژوئیه هر بخش شرکت دارای «بودجه توکن هوش مصنوعی» است و تاکید کرده: «هدف بیشینهسازی توکن نیست؛ افزایش تأثیر هر توکن است.»
جزئیات مالی عمومی نشده، اما دادههای داخلی نشان میدهد بسیاری از مهندسان ماهانه صدها تا چند هزار دلار برای توکن مصرف میکنند. دستورالعملها هشدار میدهند در صورت نیاز ممکن است محدودیتهای سختگیرانهتری اعمال شود.
چرا انتخاب Sol بهعنوان پیشفرض اهمیت دارد
تنظیم GPT-5.6 Sol بهعنوان مدل پیشفرض نشان میدهد هدف فقط ارزانکردن نیست. Sol از مجموعه GPT-5.6 هزینه بالاتری دارد: حدود 5 دلار بهازای هر میلیون توکن ورودی و 30 دلار بهازای هر میلیون توکن خروجی. پس از کاهش قیمتها در 30 ژوئیه، مدلهای دیگری مثل Terra و Luna قیمتهای پایینتری ارائه دادهاند (Terra: 2 دلار/12 دلار، Luna: 0.20 دلار/1.20 دلار).
این قیمتگذاری تیمها را مجبور میکند پیش از انتخاب مدل، نسبت هزینه به کارایی را بسنجند و برای هر وظیفه مدل مناسب را تعیین کنند. همانطور که پریخ نوشته، تمرکز باید روی افزایش اثربخشی هر توکن باشد، نه صرفاً کاهش تعداد توکنها.
پیشفرضها بهعنوان ابزار سیاستگذاری
GitHub Copilot میتواند بر اساس نوع وظیفه، نوع اشتراک و سیاستهای سازمان، مدل را بهصورت خودکار انتخاب کند. این مکانیزم با عبور از مرزهای کشِ طبیعی، هزینههای غیرضروری را کاهش میدهد و کارایی توکن را بدون افت کیفیت بهبود میبخشد. گزارشهای The Verge نشان میدهد پیش از این برخی درخواستها به مدلهای رقیب مانند Anthropic هدایت میشدند؛ تنظیم Sol بهعنوان پیشفرض کنترل مرکزیتتری روی مصرف توکن داخلی ایجاد میکند و در عین حال دسترسی به مدلهای دیگر در صورت نیاز حفظ میشود.
پیامدها برای تیمهای توسعه
- سنجش بازگشت سرمایه (ROI) مدلها: قبل از انتخاب، هزینه بهازای توانایی تعیین شود و مدل بهینه برای هر وظیفه انتخاب گردد.
- ظهور سنجههای کیفی جدید: فراتر از تعداد pull requestها، معیارهایی مانند کیفیت کد، تعداد باگها، امنیت و ارزش تحویلی به مشتری باید اندازهگیری شوند.
- حفظ قابلیتهای پیشرفته در موارد ضروری: مدلهای پرهزینه مانند Sol برای مسائل پیچیده یا تولید کد بحرانی استفاده شوند و کارهای معمول به مدلهای اقتصادیتر سپرده شوند.
- تقویت سیاستهای دسترسی و محافظت از داده: یکپارچهسازی پشته داخلی و ابزارهایی مانند GitHub Copilot CLI برای کنترل سیاستها، دسترسی و ثبت رخدادها ضروری است.
هزینهها و اندازهگیری بهرهوری
مایکروسافت یافتههایی از بهبود تولید توسعهدهندگان با استفاده از عاملها (agents) دارد: یک مطالعه داخلی افزایش حدود 24% در تعداد pull requestها پس از پذیرش ابزارهایی مانند Claude Code و GitHub Copilot CLI را نشان میدهد. با این حال افزایش حجم ادغامشده لزوماً به معنی محصول بهتر یا کاهش باگ نیست؛ تیمها باید شاخصهای کیفی را نیز کنار سنجههای کمی قرار دهند تا تصمیمات هزینهای معنادار باشند.
عاملها چگونه هزینهها را تشدید میکنند
عاملهای خودکار که مخازن را جستوجو، تستها را اجرا، فرایند deploy را راهاندازی و کد را بازبینی میکنند، بهطور قابلتوجهی مصرف توکن را افزایش میدهند؛ زیرا هر مرحله نیازمند فراخوانی مدل است. مدیریت این چرخه به ابزارهای گزارشدهی، سیاستهای محدودکننده برای عملیات خودکار و تخصیص مدلهای مقرونبهصرفه برای نقشهای مشخص نیاز دارد.
پیشنهادات عملی برای تیمها
- تعریف روشن معیارهای ارزش برای هر نوع درخواست و سنجش مستمر تأثیر مدلها.
- پیکربندی GitHub Copilot برای انتخاب خودکار هوشمند مدلها و استفاده از کش محلی برای پاسخهای تکراری.
- راهاندازی داشبوردهای هزینه، آلارم برای الگوهای مصرف و بازبینی ماهانه بودجهها.
- همگامسازی سیاستهای دسترسی و آموزش مهندسان برای بهینهسازی درخواستها و promptها بهمنظور کاهش مصرف غیرضروری.
تصمیم مایکروسافت نشان میدهد دوران هزینهکرد بیقید برای ابزارهای مولد در حال پایان است؛ سازمانها باید نشان دهند سرمایهگذاری در مدلهای بزرگ، ارزش افزوده ملموس ایجاد میکند. معیارهای جدید بهرهوری و پنلهای شفاف هزینه بهزودی نقش تعیینکنندهای در استراتژیهای هوش مصنوعی تیمهای توسعه ایفا خواهند کرد.
