شرکت هارنس (Harness) برای حل یکی از بزرگترین چالشهای استقرار هوش مصنوعی، سرویس چرخه حیات توسعه عاملهای هوش مصنوعی (AI Agent DLC) را معرفی کرد. این سرویس جدید تلاش میکند تا پایپلاینهای تحویل نرمافزار را برای کنترل رفتار غیرقابلپیشبینی عاملها بازطراحی کند.
بر اساس نظرسنجی سال 2026 گارتنر از مدیران ارشد فناوری، تنها 17 درصد از سازمانها تاکنون موفق به استقرار عاملهای هوش مصنوعی شدهاند. دلیل اصلی این شکاک، ماهیت غیرقطعی (Non-deterministic) پاسخهای تولیدشده توسط مدلهای زبانی و گسترش پویای سطح حمله در محیطهای واقعی است.
چالش رفتار غیرقابلپیشبینی عاملهای هوش مصنوعی
ترِوور استوارت، معاون ارشد و مدیر عمومی هارنس، معتقد است راهاندازی یک عامل هوش مصنوعی در محیط دمو کار سادهای است، اما تضمین رفتار همان عامل در محیط تولید (Production) داستان کاملاً متفاوتی دارد. سطح حملهای که یک عامل هوش مصنوعی ایجاد میکند، هم گستردهتر است و هم ماهیت پویایی دارد؛ موضوعی که شرکتها را در انتقال به محیط تولید مردد میکند.
در کدنویسی سنتی، رفتار برنامهها قطعی است. توسعهدهنده میتواند یک تست را روی کد اجرا کند و هر بار نتیجه مشابهی بگیرد. اما عاملهای هوش مصنوعی متفاوت عمل میکنند. مدل زبانی زیربنایی آنها ممکن است با دریافت یک ورودی ثابت، در هر بار اجرا ابزار متفاوتی را انتخاب کند یا مسیر متفاوتی را طی کند.
این یعنی تستی که یک بار با موفقیت همراه بوده، هیچ تضمینی برای موفقیت در اجرای بعدی ندارد. در نتیجه، روشهای استاندارد برای شناسایی و رفع باگها در اینجا کارایی گذشته را از دست میدهند.
پایپلاین قطعی برای عاملهای غیرقطعی
استوارت راهکار این چالش را در تغییر رویکرد توسعهدهندگان میداند: «به جای تلاش برای قابلپیشبینی کردن خود عامل، باید پایپلاین اطراف آن را قابلپیشبینی کنیم.»
در روش سنتی تحویل پیوسته (CI/CD)، موفقیت تستها پیششرط عرضه نرمافزار است. هارنس حالا همین رویکرد را برای عاملهای هوش مصنوعی با استفاده از دروازههای کیفیت و نمرات ارزیابی (Eval Scores) پیادهسازی کرده است. در این روش، پاسخ عامل بر اساس سه معیار صحت، ایمنی و عملکرد ارزیابی شده و نمره نهایی مستقیماً به عنوان یک دروازه قبول یا رد در پایپلاین تحویل اعمال میشود.
ثبت تاریخچه به جای بازتولید خروجی
هارنس ادعا نمیکند که میتواند خروجی عاملهای هوش مصنوعی را قابلبازتولید کند، بلکه تمرکز خود را بر قابلبازتولید کردن سوابق اجرایی گذاشته است. این سرویس تمامی فراخوانیهای مدل، ابزارها و مراحل طیشده را ثبت میکند تا مهندسان بتوانند بدون حدس و گمان، عملکرد عامل را برای رسیدن به نتیجه بهتر تنظیم کنند.
این رویکرد به توسعهدهندگان اجازه میدهد تا عاملهای هوش مصنوعی را در حالی که فعال و در دسترس کاربران هستند، آزمایش و بهبود ببخشند. با مشاهده تاثیر تغییرات در استفاده واقعی، عامل به تدریج به سمت نتایج مطلوبتری برای مشتری هدایت میشود.
سطح حمله در حال گسترش عاملها به دلیل اتصال آنها به ابزارهای خارجی، APIها، ایجاد زیرعاملها (Sub-agents) و به ارث بردن سطح دسترسی است. با این حال، با کنترل دقیق پایپلاین تحویل، هارنس امیدوار است سازمانها را قادر سازد تا با اطمینان خاطر بیشتری عاملهای هوش مصنوعی را از محیط ایزوله سندباکس به دنیای واقعی کسبوکار منتقل کنند.
