با گسترش روزافزون گردش‌کارهای هوش مصنوعی عاملی (Agentic AI) در سازمان‌ها، نیاز به زیرساختی که بتواند بارهای کاری متنوع را به‌طور هوشمندانه میان منابع محاسباتی توزیع کند، بیش از پیش احساس می‌شود. Arm و Google Cloud با ارائه راهکاری مبتنی بر پردازنده‌های سفارشی Axion و سندباکس امن GKE، گزینه‌ای هوشمند، کارآمد و مقرون‌به‌صرفه برای اجرای این بارهای کاری معرفی کرده‌اند.

استفاده از زیرساخت ناهمگن (Heterogeneous Infrastructure) که در آن شتاب‌دهنده‌های قدرتمند (مثل GPU و TPU) برای آموزش و استنتاج مدل‌های بزرگ و پردازنده‌های مرکزی (CPU) برای لایه هماهنگ‌سازی به کار گرفته می‌شوند، کلید موفقیت در این حوزه است. با رواج عوامل خودمختار، CPUها برای مدیریت وضعیت عامل، مسیریابی معنایی، انتخاب ابزار و ایجاد محیط‌های ایزوله و امن، گزینه‌ای ایده‌آل محسوب می‌شوند.

مزیت پردازنده‌های Google Axion

Google Cloud با پورتفولیوی Compute Engine خود که شامل سرویس‌های همه‌منظوره و تخصصی است، به خوبی این نیاز را پوشش می‌دهد. پردازنده‌های Google Axion خانواده‌ای از CPUهای سفارشی مبتنی بر معماری Arm هستند که برای عملکرد بالا، بهره‌وری انرژی و تطبیق‌پذیری طراحی شده‌اند. Axion که نخستین CPU سرور سفارشی Arm گوگل محسوب می‌شود، در آوریل 2024 (اردیبهشت 1403) معرفی شد و برای بارهای کاری مراکز داده در مقیاس فوق‌بزرگ و عصر هوش مصنوعی بهینه شده است.

این پردازنده‌ها از بیش از یک دهه نوآوری در طراحی سیلیکون سفارشی گوگل بهره می‌برند و امکان ادغام بازخورد مشتریان در طراحی تراشه را فراهم می‌کنند. Axion برای بارهای کاری همه‌منظوره، بارهای مبتنی بر CPU هوش مصنوعی و وظایف تخصصی که نیاز به سازگاری بومی با Arm دارند، مناسب است.

تطبیق نوع بار کاری با پردازنده؛ رویکردی هوشمندانه

بومیک پاتل، مدیر توسعه اکوسیستم نرم‌افزار در Arm، بر اهمیت تطبیق نوع بار کاری با ظرفیت محاسباتی تأکید می‌کند. به گفته او، «وظایف عاملی مانند هماهنگ‌سازی، ارتباط با APIها و مدیریت حافظه، همگی کارهایی هستند که CPUها در آن‌ها عملکرد خوبی دارند و بنابراین یک بار کاری توزیع‌شده و هم‌روند محسوب می‌شوند.» این تخصیص هوشمندانه باعث می‌شود هوش مصنوعی عاملی بسیار مقرون‌به‌صرفه‌تر از اجرای تمام بارهای کاری روی یک نوع محاسباتی واحد باشد.

بر اساس گفته مو فرحات، مدیر محصول گروه Axion در گوگل، محیط ایزوله عامل (سندباکس) GKE Agent Sandbox که روی نمونه‌های Google Axion N4A اجرا می‌شود، تا 30 درصد قیمت‌-عملکرد (Price Performance) بهتری نسبت به ارائه‌دهندگان دیگر ابرهای فوق‌بزرگ دارد.

امنیت در اجرای کدهای تولیدشده با GKE Agent Sandbox

هنگامی که عوامل هوش مصنوعی شروع به تولید و اجرای خودکار کد می‌کنند، امنیت به یک مسئله حیاتی تبدیل می‌شود. اجرای مستقیم کدهای تولیدشده و غیرقابل اعتماد در یک خوشه استاندارد Kubernetes خطرات امنیتی جدی ایجاد می‌کند، زیرا کد می‌تواند به سایر برنامه‌ها یا گره خوشه دسترسی پیدا کند. GKE Agent Sandbox با ارائه یک محیط ایزوله و امن، این مشکل را حل می‌کند. این سندباکس با استفاده از gVisor (یک هسته برنامه متن‌باز) وظایف حساس را در سطح هسته با تأخیر زیر ثانیه ایزوله می‌کند.

نمودار معماری GKE Agent Sandbox برای اجرای امن کدهای هوش مصنوعی

بنیان محاسبات سیال Google Cloud به تیم‌های مهندسی اجازه می‌دهد تا شتاب‌دهنده‌های تخصصی را دقیقاً برای بارهای سنگین استدلال و تولید رزرو کنند و در عین حال از CPUهای Axion برای هماهنگ‌سازی با هم‌روندی بالا و مدیریت زمینه (Context Management) بهره ببرند. این رویکرد، هوش مصنوعی عاملی را به‌طور قابل توجهی مقرون‌به‌صرفه و کارآمد می‌کند و مسیر را برای استقرار گسترده‌تر این فناوری در سازمان‌ها هموار می‌سازد.