پیشرفت مدلهای زبانی بزرگ در دو سال اخیر باعث شده پاسخ به سوالات ساده و متوسط به امری عادی تبدیل شود. اما جایی که پتانسیل واقعی نهفته، بارهای کاری عاملی است؛ رها کردن رباتها برای انجام وظایف چندمرحلهای و تکراری که قبلاً روزها زمان یک انسان را میگرفت. با این حال، یک مشکل عجیب در کمین است: هزینههای استفاده از هوش مصنوعی نه تنها کاهش نمییابد، بلکه با بهبود مدلها سر به فلک میکشد.
زمان محاسبات هوش مصنوعی با «توکن» سنجیده میشود. یک پرسش و پاسخ ساده ممکن است بین ۲۰۰ تا ۲۰۰۰ توکن مصرف کند، اما یک کار عاملی میتواند به راحتی میلیونها توکن را برای یک درخواست به ظاهر بیخطر صرف کند. دلیل این پدیده «افزایش توکن» یا Token amplification است.
چرا هر سوال در یک مکالمه طولانی گرانتر میشود؟
مدلهای زبانی حافظه یا شناخت ندارند. هر بار که سوال جدیدی در یک مکالمه میپرسید، مدل مجبور است کل تبادل قبلی را دوباره بارگذاری و پردازش کند: همه چیزهایی که نوشتهاید، پاسخهای قبلی ربات و فایلهای آپلود شده. این یعنی سوالات بعدی در یک مکالمه طولانی، بهتدریج پرهزینهتر میشوند. یک سوال ساده ممکن است فقط ۵۰۰ توکن نیاز داشته باشد، اما سوال دوم با احتساب پردازش مجدد، ۶۰۰ توکن مصرف میکند و همین روند ادامه مییابد. سرعت پاسخ نیز با طولانی شدن گفتگوها کاهش مییابد.
یک گزارش ساده چطور میلیونها توکن مصرف میکند؟
تصور کنید از یک عامل هوش مصنوعی میخواهید گزارشی از مشتریان پرسود شما تهیه کند. این کار به مراحل متعددی نیاز دارد: جستجوی صفحات اکسل، مراجعه به سیستم CRM، جستجوی اینترنتی برای اطلاعات زمینهای محصولات، و چندین مرحله پردازش و محاسبه میانی. هر مرحله هزاران توکن به مصرف نهایی اضافه میکند و در پایان، ممکن است با میلیونها توکن مصرفی مواجه شوید. کنترل هزینه هوش مصنوعی در چنین سناریوهایی به یک چالش بزرگ تبدیل میشود.
صورتحسابهای شوکآور: از ۱ دلار تا ۲۸,۸۰۰ دلار
از نظر مالی، یک سوال به ظاهر ساده ممکن است ۲۸۰,۰۰۰ توکن مصرف کند و با قیمتهای فعلی، ۱ دلار هزینه داشته باشد. اگر این کار برای بهروزرسانی یک داشبورد هر ۱۵ دقیقه برنامهریزی شود، هزینه روزانه به ۹۶ دلار و ماهانه به ۲,۸۸۰ دلار میرسد. یک گزارش چندمرحلهای پیچیده ممکن است میلیونها توکن نیاز داشته باشد و هزینه هر اجرا را به ۱۰ دلار برساند؛ یعنی ۲۸,۸۰۰ دلار در ماه برای یک گزارش، برای تعداد محدودی کاربر در یک دپارتمان!
این ارقام تکاندهنده نشان میدهد که چرا شرکتهای بزرگی مانند Anthropic، مایکروسافت و OpenAI در آوریل گذشته، طرحهای قیمتگذاری خود را به صورت مصرفی تغییر دادند و سقف توکن را در طرحهای نرخ ثابت به شدت محدود کردند. این تغییر باعث شوک صورتحساب برای بسیاری از توسعهدهندگان شد که تازه متوجه هزینه واقعی «کدزنی حسی» یا vibe coding خود شدند.
آیا راهی برای فرار از این تله وجود دارد؟
برخی شرکتهای بزرگ مانند اوبر، مایکروسافت و والمارت با محدود کردن هزینههای هوش مصنوعی پاسخ دادهاند. اما سوال اصلی این است: آیا میتوان بدون کاهش کیفیت، مصرف توکن را مدیریت کرد؟ راهکارهایی مانند بهینهسازی میزان زمینه (context optimization)، استفاده از مدلهای ارزانتر برای وظایف ساده و تعیین حد بودجه میتوانند کمککننده باشند، اما مشکل اساسی یعنی ماهیت پرهزینه وظایف عاملی، همچنان پابرجاست.
پارادوکس اقتصاد هوش مصنوعی اینجاست: مدلها قدرتمندتر و کارآمدتر میشوند، اما پیچیدگی وظایف و ابعاد پردازش نیز به همان نسبت افزایش مییابد. شاید زمان آن رسیده که صنعت هوش مصنوعی به جای تمرکز صرف بر بهبود دقت، به دنبال راههایی برای مهار اشتهای سیریناپذیر توکنها باشد.
