الگوی پوششی که نرمافزار تشخیص را غیرعملی میکند
بیل سوئرینجن با پروژهٔ «noRecognition» نشان داد میتوان الگوهایی تولید کرد که نرمافزارهای تشخیص اشیاء—از جمله خوانش پلاک و تشخیص خودرو—را ناکارآمد کنند. او پس از انجام حدود 31 میلیون آزمایش از خانهاش در کانزاسسیتی، روش خود را در کنفرانس Def Con ارائه کرد: یک تویوتا یاریس 2009 با این الگو پوشانده شد و از مقابل دوربین شرکت Flock عبور داده شد و در سطح نرمافزاری شناسایی نشد.
چطور کار میکند؟
فیلمبرداری همچنان ثبت میشود و ناظر انسانی خودرو را میبیند؛ اما لایهٔ نرمافزاری که باید بگوید «این یک خودرو است» یا «این یک پلاک است» عملکرد مورد انتظار را از دست میدهد. سوئرینجن از مدلهای یادگیری تقویتی برای تولید الگو استفاده میکند و فرآیند بهصورت چرخهای انجام میشود:
- مدل یک الگو تولید میکند.
- الگو روی تصویر یا صحنه آزمایش میشود و عملکرد طبقهبند سنجیده میشود.
- براساس بازخورد، الگو تنظیم و فرایند تکرار میشود تا اثربخشی افزایش یابد.
حملههای خصمانه به یادگیری ماشینی
این روش نمونهای از حملههای خصمانه به یادگیری ماشینی است؛ ورودیها طوری طراحی میشوند که طبقهبندها را گمراه کنند. برای بینندهٔ انسانی ممکن است این الگوها شبیه آثار هنری یا پوششهای گرافیکی بهنظر برسند، اما برای سامانههایی که بر مبنای ویژگیهای عددی و روشنایی کار میکنند، همان پوشش میتواند معادل «عدم وجود شیء» تلقی شود.
هدفگیری سیستمهای کاربردی
سوئرینجن ادعا میکند الگوهای خود را روی 11 سیستم متنباز آزمایش کرده و در برابر همه اثربخش بودهاند، از جمله نرمافزارهای بهکاررفته در خوانندههای پلاک شرکت Flock، دوربینهای بدنهٔ Axon و برخی محصولات شرکتهای دیگر. هدف قرار دادن پشتههای نرمافزاریِ در حال استفاده در میدان، این پروژه را به موضوع بحثهای حقوقی و سیاسی بدل کرده است؛ مستنداتی دربارهٔ تبدیل شمار زیادی از دوربینهای داشبورد به اسکنرهای پلاک نیز منتشر شده است.
سابقهٔ مقاومت و محدودیتها
مدافعان حریم خصوصی و معترضان سالها روشهایی برای فرار از شناسایی خودکار بهکار بردهاند: از قراردادن مخروط ترافیک در مسیر خودروهای خودران تا استفاده از ماسک و کلاه در تجمعات. بازار هم ابزارهایی مانند لباسها و عینکهایی با الگوهایی برای گمراه کردن تشخیص چهره عرضه کرده است، هرچند شواهد اثربخشی آنها متغیر است. تمایز پروژهٔ «noRecognition» در هدفگیری مستقیم الگوریتمهای میدانی و تولید الگوهای اختصاصی برای آنهاست.
ملاحظات حقوقی و اخلاقی
- قانونگذاری: قوانین مربوط به پوشش بدنه و مخفیسازی پلاک در ایالتهای مختلف آمریکا متفاوت است؛ سازوکارهای حقوقی باید اختلافها را روشن کنند.
- ریسک سوءاستفاده: استفاده از چنین روشهایی در موارد جنایی یا برای فرار از مسئولیت میتواند پیامدهای کیفری داشته باشد.
- حریم خصوصی: گروههای حامی حریم خصوصی این ابزارها را راهی برای «انصراف از ردیابی» میدانند و از آن بهعنوان مقابلهای در برابر نظارت همگانی یاد میکنند (منبع).
توسعه، دسترسی و واکنش بازار
سازنده میگوید مدل او میتواند هر دقیقه الگوهای تازه تولید کند و نمونههای مؤثر را آفلاین نگه میدارد تا تولیدکنندگان دوربین نتوانند بهسادگی از آنها برای بهبود مقاومتپذیری سیستمها استفاده کنند. پروژه کمپین تامین مالی جمعی راهاندازی کرده تا کالاهایی مانند تیشرت و هودی عرضه کند و در آینده پوستهای خودرو (vehicle skins) با رزولوشن بالا ارائه دهد؛ هدف طراحیای است که هم از فواصل مختلف کار کند و هم مردم حاضر به استفاده از آن باشند.
آیندهٔ شناسایی و مبارزه با آن
گسترش فناوریهای تشخیص خودکار، تعادل میان امنیت جمعی و حریم خصوصی فردی را پیچیدهتر میکند. اگر سامانههای تشخیص در مقیاس شهری بهکار گرفته شوند، لازم است جامعهٔ مدنی، نهادهای فنی و قانونگذاران دربارهٔ محدودهٔ مجاز نظارت، شفافیت الگوریتمی و حقوق مرتبط با فرار از ردیابی تصمیمگیری کنند. پروژههایی مثل «noRecognition» نشان میدهد فناوری هم میتواند ابزار کنترل باشد و هم ابزار مقاومت نسبت به آن.
پرسش اصلی این است که بازار، نهادهای قانونگذار و جامعه چگونه میتوانند بین نیاز به امنیت عمومی و حق فردیِ حفظ حریم خصوصی تعادل برقرار کنند؛ پاسخی که در سالهای آینده مسیر سیاستگذاری فنی و قانونی را شکل خواهد داد.
