امنیت عوامل هوش مصنوعی در حال طی کردن یک منحنی بلوغ آشنا است: پذیرش، سپس دیدپذیری و در نهایت کنترل. اما آنچه به طور جمعی متوجه آن شدیم این است که اعمال حداقل دسترسی برای این عوامل دشوارتر از چیزی است که تا به حال تصور میکردیم. به همین دلیل رویکردهای مختلفی از فیلتر کردن درخواستها تا کنترلهای دسترسی در لایه هویت شکل گرفته است. نقطهای که اکنون به آن رسیدهایم نشان میدهد درک قصد عوامل هوش مصنوعی برای ایمنسازی آنها ضروری است. این مسیر آسان نیست، اما تنها راه پیش روی ماست.
سازمانها با سطوح مختلفی از پیچیدگی به این چالش میپردازند. برای بسیاری از آنها، هدف فعلی صرفاً یافتن عوامل هوش مصنوعی است که در حال حاضر در سراسر کسبوکار فعالیت میکنند. این یک گام اول ضروری است. عوامل هوش مصنوعی در پلتفرمهای SaaS، محیطهای توسعهدهنده، گردشکارهای ابری، سیستمهای پشتیبانی مشتری، ابزارهای بهرهوری و برنامههای داخلی در حال ظهور هستند. برخی از این عوامل تأیید شدهاند و برخی دیگر خیر.
اما صرفاً کشف کردن آنها مفید نیست. عوامل هوش مصنوعی منفعل نیستند؛ آنها استدلال میکنند، برنامهریزی میکنند، ابزارها را فراخوانی میکنند، APIها را اجرا میکنند، به دادهها دسترسی پیدا میکنند و بدون دخالت انسان اقدامی انجام میدهند. خطر اصلی این نیست که یک سازمان عوامل زیادی دارد، بلکه خطر این است که این عوامل میتوانند در سیستمها عمل کنند بدون اینکه هویت، قصد، مالکیت و اعمال کنترلِ سازگاری داشته باشند. همچنین انواع مختلفی از عوامل هوش مصنوعی وجود دارد که هر کدام برای ایمنسازی به رویکرد متفاوتی نیاز دارند.
راهنماییهای اخیر در مورد پذیرش دقیق خدمات هوش مصنوعی عاملی (Agentic AI) این موضوع را روشن میکند: این فناوری خطرات مربوط به امتیازات، احراز هویت، پاسخگویی، طراحی و رفتار را به همراه دارد که تیمهای امنیتی باید پیش از تعبیه این سیستمها در گردشکارهای حیاتی به آنها رسیدگی کنند. دیدپذیری خط شروع است، اما اعمال کنترل است که اهمیت دارد.
تله دیدپذیری در مدیریت عوامل هوش مصنوعی
اکثر برنامههای امنیتی با این سوال آغاز میشوند: «چه چیزی داریم؟» این رویکرد برای ابر، SaaS، نقاط انتهایی، هویتها و آسیبپذیریها منطقی بود و برای عوامل هوش مصنوعی نیز منطقی است. با این حال، خطر توقف صرفاً در سطح دیدپذیری برای عوامل هوش مصنوعی، به دلیل سرعت ایجاد شدن آنها، میزان دسترسیشان و نحوه اشتراکگذاری آنها، از هر محیط دیگری بیشتر است.
یک فهرست از عوامل هوش مصنوعی که به اعمال کنترل متصل نشود، به فهرست داراییهای استاتیک دیگری تبدیل میشود. ممکن است نشان دهد که عاملی وجود دارد، اما نمیتواند به شما بگوید آیا دسترسی این عامل مناسب است یا خیر، آیا رفتار آن با هدفش مطابقت دارد یا خیر، آیا مالک آن همچنان پاسخگوست یا خیر، یا اینکه چه زمانی باید مجوزهای آن با تغییر شرایط لغو شود. برای عوامل هوش مصنوعی، دیدپذیری بدون اعمال کنترل نوعی خطرناک از اعتماد به نفس ایجاد میکند؛ جایی که احساس میکنید همه چیز تحت کنترل است، در حالی که واقعیت کاملاً متفاوت است.
چرا عوامل هوش مصنوعی مدلهای دسترسی استاتیک را میشکنند
کنترل دسترسی سنتی سطحی از قابلیت پیشبینی را فرض میکند. مدیریت هویت و دسترسی انسانی آسانترین حالت را دارد، زیرا هر فرد یک وظیفه شغلی مشخص دارد. مدیریت هویت غیرانسانی یا ماشین پیچیدهتر است، اما یک حساب کاربری سرویس همچنان از یک بار کاری تعریفشده پشتیبانی میکند. این فرضیات بینقص نیستند، اما پایهای برای نقشها، حقوق دسترسی، تأییدیهها، بازبینی دسترسیها و پاکسازی دورهای در اختیار تیمهای امنیتی قرار میدادند.
عوامل هوش مصنوعی به هیچ وجه استاتیک نیستند. یک عامل کمتر با یک گردشکار ثابت و بیشتر با یک هدف تعریف میشود. ممکن است دستورالعملها را تفسیر کند، ابزارهای مختلفی را فراخوانی کند و اقدامات خود را بر اساس زمینه تطبیق دهد. دو عامل با مجوزهای مشابه ممکن است پروفایل ریسک بسیار متفاوتی داشته باشند، بسته به اینکه هر کدام سعی در دستیابی به چه چیزی دارند.
دسترسی استاتیک کافی نیست زیرا احتمال بیشتری وجود دارد که عوامل هوش مصنوعی به روشهایی استفاده شوند که در زمان اعطای دسترسی پیشبینی نشده بود. مسئله همیشه رفتار مخرب نیست، بلکه ابهامی است که خطر ایجاد میکند، مانند وظیفهای که از هدف اصلی خود فراتر میرود.
سؤالی که تیمهای امنیتی باید بپرسند این نیست که «این عامل به چه چیزی دسترسی دارد؟». سؤال مهمتر این است: این عامل باید اجازه داشته باشد چه کاری انجام دهد، تحت این شرایط، برای این هدف؟ این یک سؤال در مورد اعمال کنترل است.
اعمال کنترل مؤثر نیازمند درک زمینهای است
اعمال کنترل مؤثر برای عوامل هوش مصنوعی را نمیتوان به یک فهرست پایه و بدون زمینه متصل کرد. تیمهای امنیتی باید به سمت پیادهسازی کنترلهای مبتنی بر نیت و پویا حرکت کنند که اقدامات عامل را در زمان واقعی ارزیابی میکنند. این به معنای نظارت بر هر فراخوانی تابع (Function Call) یا هر دسترسی به API نیست، بلکه به معنای ایجاد یک چارچوب است که رفتار عامل را با هدف اولیه آن مطابقت میدهد.
برای تحقق این هدف، امنیت عوامل هوش مصنوعی نیازمند زیرساختهایی است که بتواند زمینه، مالکیت و مجوزهای هر عامل را به صورت پویا مدیریت کند. این زیرساختها باید موارد زیر را پشتیبانی کنند:
- تخصیص کمترین دسترسی (Least Privilege) بر اساس هدف وظیفه
- نظارت بر رفتار برای شناسایی انحرافات از مسیر تعریفشده
- لغو خودکار مجوزها پس از اتمام وظیفه یا تغییر شرایط
آینده امنیت در عصر هوش مصنوعی خودمختار
با گسترش روزافزون هوش مصنوعی عاملی در زیرساختهای دیجیتال، مرز بین مشاهده و عمل تارتر میشود. تیمهای امنیتی نباید صرفاً افق را زیر نظر بگیرند، بلکه باید به طور فعال مرزهای دسترسی این موجودات خودمختار را شکل دهند. تنها در این صورت است که سازمانها میتوانند از پتانسیل بینهاییت این فناوری بدون به خطر انداختن دادهها و زیرساختهای حیاتی خود بهرهمند شوند.
