اشتراکگذاری تصاویر سادهای مانند صفحهگستردهها، بافتهای بازی یا حتی صفحهشطرنج در پلتفرم دیسکورد طی دو ماه گذشته برای بیش از ۸٬۰۰۰ کاربر به یک کابوس تبدیل شد. این پلتفرم رسماً اعلام کرد که یک باگ در سامانهٔ خودکار هوشمصنوعی تعدیلِ محتوا این تصاویر کاملاً بیخطر را بهاشتباه بهعنوان محتوای مضر شناسایی کرده و منجر به مسدودیت خودکار حسابهای کاربری شده است.
شناسایی و رفع باگ خطرناک در هوشمصنوعی دیسکورد
براساس جزئیات منتشرشده، این مشکل از ماهِ مه بهوجود آمد. پیش از آنکه تیمِ مهندسیِ دیسکورد منشأ مشکل را شناسایی و رفع کند، نزدیک به ۲۰۰ کاربر دیگر نیز در آخرِ هفتهٔ گذشته بهصورت خودکار از پلتفرم اخراج شدند. پشتیبانیِ دیسکورد در رشتهتوییت در شبکهٔ اجتماعی ایکس (توییترِ سابق) اعلام کرد که روندِ بازگردانیِ تمامی حسابهای متضرر آغاز شده است.
دیسکورد توضیح داد که سامانهٔ ایمنیِ این پلتفرم برای شناساییِ محتوای غیرمجاز، فایلهای آپلودشده را با پایگاهدادهٔ تصاویرِ مخرب تطبیق میدهد. در حالتِ عادی، یک کارشناسِ انسانی محتوای مشکوک را پیش از اعمالِ مسدودیت بررسی میکند؛ اما این باگ باعث شد سیستم بدوندرنگ دستورِ بستهشدنِ اکانتها را صادر کند. دیسکورد وعده داده است که برای جلوگیری از تکرار این اتفاق، سازوکارهای امنیتیِ جدیدی را پیادهسازی کند.
چرا هوشمصنوعی الگوهای شبکهای را خطرناک میبیند؟
کاربران در شبکههای اجتماعی نظیر ردیت و ایکس گزارش دادند که بهدلیل اشتراکگذاریِ تصاویری حاوی الگوهای شبکهایِ مربعی، حسابهای خود را از دست دادهاند. بهگفتهٔ برخی کارشناسان و کاربرانِ حرفهای، ابزارهای هوشمصنوعیِ تعدیلکنندهٔ دیسکورد بهشدت به این الگوها حساس شدهاند؛ زیرا معمولاً افرادِ متخلف برای پنهانسازیِ محتوای غیرقانونی یا نامناسب مانند سوءاستفاده از کودکان یا محتوای بزرگسالان از این نوع شبکهها و الگوهای مربعی برای دور زدنِ تشخیصِ خودکار استفاده میکنند.
بنابراین، یک باگِ ساده در فرایندِ تشخیصِ الگوها میتواند بهسادگی یک بافت (texture) در یک بازیِ ویدیویی را بهعنوان محتوای غیرقانونی شناسایی کند.
خسارات جبرانناپذیرِ مسدودیتهای خودکار
اعمالِ مسدودیتِ دائمی صرفاً بر اساسِ تشخیصِ ماشین میتواند عواقبِ نگرانکنندهای برای کاربران بههمراه داشته باشد. بسیاری از گیمرها، مدیرانِ جامعههای مجازی و توسعهدهندگانِ مستقل برای ارتباطاتِ کاری و روزمره کاملاً به دیسکورد وابستهاند. از دستدادنِ ناگهانیِ دسترسی به این پلتفرم روندِ کاری و ارتباطیِ آنها را دچار اختلالِ جدی میکند.
یک کاربر که مستقیماً تحتِ تأثیرِ این باگ قرار گرفته بود در توییتی نوشت: «حسابِ من بهخاطرِ اشتراکگذاریِ بافتهای بازی توسطِ سیستمِ خودکارِ شما بهاشتباه مسدود شده است. من بهعنوانِ یک مدیرِ بازی، تمامِ ارتباطاتِ کاریام را از طریقِ دیسکورد انجام میدهم و نیازِ فوری به بازیابیِ حسابِ خود دارم.»
چالشهای نوینِ پلتفرمها با سیستمهای اتوماسیون
اتکای بیشازحد به هوشمصنوعی برای مدیریتِ محتوا معضلی است که تنها دیسکورد با آن درگیر نیست. در ماههای اخیر، پلتفرمهای دیگری نظیر اینستاگرام، فیسبوک و تامبلر نیز با حجمِ گستردهای از شکایات مبنیبرِ مسدودشدنِ بیدلیلِ حسابهای کاربری مواجه شدند. در حالی که کاربران نقشِ اتوماسیون و هوشمصنوعی را در این تعلیقها پررنگ میدانند، شرکتهایی نظیرِ متا تاکنون از تأییدِ رسمیِ خطاهایِ الگوریتمیِ خودداری کردهاند. با این حال، هیئتِ نظارتِ متا اخیراً خواستارِ شفافیتِ بیشتر در فرایندِ تصمیمگیریِ ماشینها شده است.
این اتفاق بارِ دیگر این سؤال را مطرح میکند که آیا پلتفرمهای بزرگ در تلاش برای اتوماسیونِ فرایندِ ایمنی، روی حساسترین بخشِ تعاملاتِ کاربری دست گذاشتهاند؟ زمانی که یک الگوریتم تصمیم به اخراجِ یک کاربر میگیرد، بازگردانیِ اعتبار و اعتمادِ ازدسترفته نیازمندِ فراتر رفتن از یک عذرخواهیِ ساده است.
