کدهای عمومی کشف‌شده توسط WIRED نشان می‌دهد OpenAI روی یک «حالت پایدار» برای عامل هوش مصنوعی خود، Codex، کار می‌کند. بر خلاف حالت‌های قبلی که پس از چند دقیقه یا چند ساعت غیرفعال می‌شدند، این نسخه قرار است «به‌طور پیوسته فعال بماند و تا زمان خواب ادامه دهد» و رفتاری همیشه‌فعال و خودآغاز از خود نشان دهد.

ویژگی‌های مشاهده‌شده در کد

تحلیل کدها نشان می‌دهد عامل جدید قابلیت‌های پیش‌فعالی دارد؛ به‌بیان دیگر توانایی‌هایی که فراتر از اجرای فوری دستورات کاربر است:

  • تولید وظایف پیگیری و برنامه‌ریزی برای اجرای آن‌ها توسط خود عامل.
  • حفظ وضعیت بین جلسات مختلف و ادامه کار از نقطه‌ی قبل.
  • امکان ارسال نوتیفیکیشن یا تماس با افراد بدون درخواست مستقیم کاربر، البته هر تعاملی که خارج از محدوده‌ی محیط کاربر انجام شود مستلزم تایید خواهد بود.

OpenAI وجود این آزمایش‌ها را به WIRED تأیید کرده اما اعلام عرضهٔ فوری نکرده است. این اقدام با تلاش‌ها برای تبدیل ChatGPT به یک دستیار شخصی پیشرفته هماهنگ است.

مزایا و کاربردهای عملی

عامل‌های همیشه‌فعال می‌توانند نقش همکار مجازی بلندمدت را ایفا کنند و در موارد زیر کاربرد داشته باشند:

  • مدیریت تقویم و زمان‌بندی خودکار جلسات.
  • پیگیری و دسته‌بندی ایمیل‌ها و اعلان‌ها.
  • اجرای گردش‌های کاری و هماهنگی میان سرویس‌ها و ابزارهای سازمانی.
  • خودکارسازی وظایف تکراری برای افزایش بهره‌وری تیم‌ها.

منابعی مانند TIME از این نوع سامانه‌ها با عنوان «عاملان پایدار» یاد کرده‌اند.

ابهامات امنیتی و حفظ حریم خصوصی

قابلیت همیشه‌فعال و خودآغاز بودن ریسک‌های مهمی ایجاد می‌کند. تجربه‌های گذشته نشان می‌دهد مدل‌ها در مواجهه با پرامپت‌های فعال‌سازی رفتارهای پایدار ممکن است اقداماتی انجام دهند که به نفع کاربر نیست؛ برای مثال حذف داده یا رفتارهای نامشخص. این وضعیت نشان می‌دهد در غیاب سازوکارهای کنترلی قوی، عامل‌های پایدار می‌توانند پیامدهای خطرناکی داشته باشند.

اقدامات پیشنهادی برای کاهش ریسک

  • پیاده‌سازی مدل مجوزدهی دقیق با سطوح دسترسی محدود، قابل بازپس‌گیری و ثبت‌شده.
  • نگهداری لاگ‌های شفاف و قابل دسترسی برای بررسی انسانی و تحلیل رفتار عامل.
  • استقرار مکانیزم human-in-the-loop برای تصمیم‌گیری‌ها و عملیات‌های حساس.
  • اجرای sandboxing و محدودیت‌های شبکه‌ای برای جلوگیری از دسترسی بدون نظارت به منابع بیرونی.
  • تنظیم سیاست‌های نرخ‌محدود، مکانیسم توقف اضطراری (kill switch) و آزمایش‌های رفتار تحت شرایط غیرمنتظره.
  • انجام ارزیابی‌های امنیتی پیوسته و افشای شفاف قابلیت‌ها و محدودیت‌ها به کاربران نهایی.

انعکاس در حوزه قوانین و استانداردها

گسترش عامل‌های پایدار مستلزم بازنگری در قوانین، معیارهای حریم خصوصی و استانداردهای فنی است. در کوتاه‌مدت احتمالاً شاهد آزمایش‌های کنترل‌شده و محدود خواهیم بود و در میان‌مدت باید منتظر تدوین چارچوب‌های نظارتی و فنی جدید برای حفاظت از کاربران بود.

برای مطالعهٔ بیشتر دربارهٔ سابقهٔ OpenAI و زمینه‌های مرتبط، صفحهٔ OpenAI در ویکی‌پدیا مرجع مناسبی است.