AWS قابلیت runtime instances را به Bedrock AgentCore افزود. این گزینه عاملها را روی نمونههای مدیریتشدهٔ Amazon EC2 در حساب مشتری اجرا میکند و در عین حال API مدلها، مدیریت هویت و ابزارهای مشاهدهپذیری AgentCore را حفظ میکند. این قابلیت برای تیمهایی مناسب است که اجرای عاملها بیش از محدودیت ۸ ساعت نیاز دارد یا به GPU و حافظهٔ بالا وابستهاند.
چه چیزی تغییر کرده؟
runtime instances نشستهای طولانیتری روی EC2 فراهم میکند و امکاناتی که برای بارهای حالتدار و شتابدهندهمحور لازم است، ارائه میدهد.
ویژگیهای کلیدی
- پایداری نشست تا 14 روز.
- پشتیبانی از سیستم فایل مشترک برای همکاری چندعاملی روی یک میزبان.
- قابلیت اجرا روی نمونههای شتابیافته با GPU و حافظهٔ بالا.
- اجازهٔ اجرای کد با Python یا استفاده از تصاویر کانتینری.
- امکان استقرار چند عامل در یک runtime و تبادل مستقیم از طریق دایرکتوری نشست مشترک، بدون نیاز به فراخوانی API برای هر تبادل بین عاملها.
تجربهٔ توسعهدهنده و سازگاری با چارچوبها
طبق توضیح Sebastien Stormacq، تیمها میتوانند چارچوبهایی مثل CrewAI، LangGraph، LlamaIndex و Strands را بدون تغییر قابلتوجه در بستهبندی وارد کنند. استفاده از دکوریتور سادهٔ @app.entrypoint و یک فایل ZIP یا تصویر کانتینری کافی است تا runtime امور اجرایی، یکپارچهسازی با APIها، کنترلهای هویتی و مشاهدهپذیری را مدیریت کند.
چه زمانی باید از runtime instances استفاده کنید؟
- زمانی که اجرای مداوم عامل بیش از ۸ ساعت لازم باشد.
- وقتی به GPU یا حافظهٔ زیادی نیاز دارید.
- وقتی چند عامل نیاز به همکاری نزدیک و هممیزبانی روی یک میزبان دارند.
چرا میکروVMها را کنار نگذارید
میکروVMها برای کارهای کوتاه، پاسخمحور و انفجاری که نیاز به شروع سریع و ایزولاسیون دارند مناسبترند؛ همچنین صورتحساب آنها براساس مصرف ثانیهای محاسبه میشود و تا سقف ۸ ساعت اقتصادی باقی میماند. ترکیب دو مدل—برای مثال یک عامل ارکستراتور روی میکروVM که کار بلندمدت را به workerهای مبتنی بر runtime instances میسپارد—الگوی عملی و مقرونبهصرفهای است. برای مرور تکامل AgentCore میتوانید مطلب InfoQ را ببینید: InfoQ.
ارائهدهندهٔ ظرفیت (Capacity Provider)
پایهٔ معماری runtime instances یک capacity provider است که خانوادههای نمونهٔ مجاز، سیستمعامل، تنظیمات شبکه و ذخیرهسازی را مشخص میکند. این سازوکار به عنوان قرارداد بین عاملها و ظرفیت EC2 عمل میکند و AgentCore آن را برای تیمها فراهم، وصله و مقیاس میکند. تیمها میتوانند حداقل و حداکثر نمونه، اهداف بهرهوری و سیاستهای مقیاسدهی را تعریف کنند و سپس یک یا چند runtime را با حداکثر زمان عمر نشست تا ۱۴ روز به این ارائهدهنده متصل نمایند—بدون مدیریت مستقیم گروههای Auto Scaling یا قالبهای راهاندازی.
برای مطالعهٔ بیشتر دربارهٔ Amazon EC2 و Auto Scaling میتوانید به منابع زیر مراجعه کنید: Wikipedia دربارهٔ EC2 و Auto Scaling در سایت AWS.
هزینه و نقطهٔ سربهسر
هزینهٔ runtime instances در حساب مشتری با نرخهای استاندارد EC2 محاسبه میشود و علاوه بر آن هزینهٔ مدیریت نیز افزوده میشود. میکروVMها اغلب برای عاملهایی با مصرف کم و نامنظم اقتصادیتر هستند چون براساس vCPU-hour و GB-hour صورتحساب میشوند و معمولاً هزینه مدیریت جداگانه ندارند. شواهد اولیه نشان میدهد نقطهٔ سربهسر در حدود ۲۴٪ بهرهبرداری پایدار CPU قرار دارد. همچنین، تخفیفهای تعهدی EC2 مثل Savings Plans میتوانند هزینهٔ محاسبات را کاهش دهند اما هزینهٔ مدیریت را شامل نمیشوند.
پیامدها برای تیمها
با runtime instances، نگهداری ناوگان جداگانهٔ EC2 برای کارهای طولانی یا شتابدهندهمحور کاهش مییابد. هممیزبانی چند عامل روی یک میزبان، توقف نشستها پس از اتمام کار و استفادهٔ هدفمند از نمونههای شتابیافته ابزارهایی برای کنترل هزینه فراهم میآورد. بازخورد اولیه از جامعهٔ توسعه و گزارشهایی مثل مجموعهٔ روزانهٔ daily.dev و بررسی Four Signals این تحول را گامی مهم در تکامل زیرساختهای ارکستراسیون عاملها میدانند.
چه انتظاری باید داشت؟
انتشار runtime instances گسترش پشتیبانی از گردشکارهای چندعاملی و حالتدار را تسریع میکند. سازمانهایی که نیاز به اجرای طولانیمدت، شتابدهنده یا همکاری نزدیک میان عاملها دارند، احتمالاً این مدل را در توپولوژی هیبریدی خود خواهند گنجاند و ترکیب میکروVMها با runtime instances را برای بهینهسازی عملکرد و هزینه به کار خواهند برد.
برای جزئیات فنی، نمونهکدها و راهنماهای توسعهدهندگان به صفحهٔ رسمی AWS Bedrock مراجعه کنید.
