چرا ایزولاسیون تنها نیمی از راه است؟

ساخت سیستم‌های حالت‌دار برای عامل‌های هوش مصنوعی، یکی از پیچیده‌ترین چالش‌های مهندسی نرم‌افزار در سال‌های اخیر محسوب می‌شود. در حالی که پروژه‌هایی مانند Firecracker ایزولاسیون قوی را به‌صورت آماده ارائه می‌دهند و استارتاپ‌های متعددی بسترهای مدیریت‌شده برای اجرای بارهای کاری عامل عرضه می‌کنند، تیم مهندسی Perplexity به این نتیجه رسید که مشکل واقعی در مرزهای انزوا نیست. چالش اصلی، مدیریت حالت (State) نشست‌ها، توانایی مکث و ازسرگیری آن‌ها، و حفظ داده‌ها در مقیاس میلیون‌ها محیط مجازی است.

به همین منظور، این شرکت در ۱۴ ژوئیه پلتفرم جدید خود به نام SPACE را رونمایی کرد. این بستر، زیرساخت اصلی برای Computer، دستیار هوش مصنوعی رایج‌سازی‌شده برای کارهای مبتنی بر دانش، عمل می‌کند. نات کوپ، معاون ارشد زیرساخت Perplexity، تأکید می‌کند که نیازهای یک سیستم عاملی در مقیاس آن‌ها با پیش‌فرض‌های رایج بازار تفاوت فاحشی دارد. عامل‌ها نباید فقط برای ساعت‌ها اجرا شوند، بلکه باید بتوانند روزها و هفته‌ها کار کنند و آن نشست‌ها به‌عنوان ساختارهای پایدار باقی بمانند.

معماری زیرساخت پلتفرم SPACE برای مدیریت نشست‌های هوش مصنوعی

معماری فنی و قدرت اسنپ‌شات‌های زنده

پلتفرم SPACE تلاشی برای بازآفرینی لایه‌های پایین پشته ندارد. هسته این سیستم بر پایه ماشین‌های مجازی میکروسکوپی Firecracker و سیستم مدیریت Kubernetes استوار است. هدف اولویت‌دار، قابلیت حمل‌ونقل بین محیط‌های مختلف، از دیتاسنترهای ابری گرفته تا زیرساخت‌های محلی، است. صفحه کنترل این پلتفرم، فرماندهی اصلی عملیات‌هاست. وقتی چارچوب عامل context را به محیط وارد می‌کند، سیستم باید در کسری از ثانیه نشست‌ها را متوقف، ذخیره و یا برای اجرای هم‌زمان در مسیرهای متفاوت، کپی‌برداری کند.

راز اصلی این عملکرد سریع، استفاده از سیستم‌فایل Btrfs لینوکس است. این سیستم‌فایل، عملیات اسنپ‌شات و فورک را از یک پروسه سنگین کپی‌برداری کامل، به عملیات‌های سبک متاداده تبدیل می‌کند. کوپ اشاره می‌کند که این انتخاب، هماهنگی بی‌نظیری با نیازهای اصلی دارد. بر روی این بستر، اسنپ‌شات‌های نوبتی از حالت کامل نشست، شامل محتوای زنده حافظه، هر دقیقه ثبت می‌شوند. این قابلیت به عامل‌ها اجازه می‌دهد در صورت بروز خطا یا تغییر استراتژی، تا یک هفته به عقب بازگردند.

مقایسه این سیستم با ارائه‌دهندگان سنتی، نشان‌دهنده بهبود بیش از ۳ برابری در معیارهای عملکردی و کاهش چشمگیر هزینه‌هاست. تیم مهندسی همچنین روی تاخیرهای دُمی و تضمین‌های P95 و P99 مانور داده تا عملکرد سندباکس‌های عامل هوش مصنوعی مستقیماً در مسیر حساس تجربه کاربری قرار گیرد.

نمای داخلی از داشبورد کنترل و مدیریت نشست‌های پلتفرم SPACE

مدیریت امنیت و عملکرد: کلیدها، نه معاوضه‌ها

بحث امنیت و عملکرد در دنیای عامل‌های هوش مصنوعی اغلب به یک معاوضه کاهش‌یافته است، اما رویکرد Perplexity متفاوت است. کوپ معتقد است مسئله کلیدها و گارنچرهای تنظیمی است، نه انعطاف‌ناپذیری در معماری. هر سازمان ابزارها و APIهای متفاوتی مانند Salesforce، Slack یا Snowflake را به Computer متصل می‌کند و هر کدام سطح ریسک خاص خود را دارند.

فراتر از الزامات پایه‌ای مانند کنترل دسترسی مبتنی بر نقش، تمرکز اصلی بر امنیت عاملی است. این شامل اعطای دسترسی‌های لحظه‌ای به سیستم‌های مقصد و تنظیم کنترل‌ها در سطح دقیق‌ترین فراخوانی‌های ابزار می‌شود. مدیران سیستم می‌توانند دسترسی‌های نوشتن را به‌طور کامل مسدود کنند تا عامل نتواند به سیستم‌های عملیاتی آسیب برساند. با افزایش روزافزون پیچیدگی عامل‌های هوشمند، استقرار بسترهایی که حالت را نه به‌عنوان یک سربار، بلکه به‌عنوان هسته اصلی تجربه کاربری طراحی می‌کنند، به یک ضرورت استراتژیک تبدیل شده است.