واتساپ در بتای محدود قابلیت جدیدی تحت عنوان «هشدار کلاهبرداری واتساپ» را آزمایش میکند. این ویژگی اختیاری، یک مدل کوچک یادگیری ماشینی را روی دستگاه نصب میکند و پیامهای دریافتی از فرستندگان غیرمخاطب را برای شناسایی الگوهای کلاهبرداری تحلیل میکند بدون اینکه محتوای پیامها به سرور ارسال شود.
عملکرد هشدار کلاهبرداری واتساپ
پس از فعالسازی، تحلیلها روی همان دستگاه انجام میشود و بر پایهٔ ساختار مکالمه و شاخصهای زبانی احتمال کلاهبرداری را ارزیابی میکند. در صورت تشخیص، به کاربر هشداری نشان داده میشود؛ این هشدار برای فرستنده قابل مشاهده نیست. امکانات اصلی برای کاربر عبارتاند از:
- مسدود کردن گفتگو
- گزارش پیام به واتساپ
- ادامهٔ گفتگو یا علامتگذاری چت بهعنوان «مورد اعتماد» تا از نمایش هشدار در آینده جلوگیری شود
در صورت تمایل کاربر، تا پنج پیام آخر از یک گفتوگوی مورد اعتماد میتواند با هدف بهبود مدل به واتساپ بهصورت اختیاری ارسال شود.
معماری حفظ حریم خصوصی: جداسازی دستهبندی و اندازهگیری عملکرد
طراحی واتساپ در دو بخش کلیدی عمل میکند: دستهبندی پیامها بهصورت محلی و اندازهگیری عملکرد مدل بهصورت جداگانه. دستگاه رویدادهای هشدار و اقدامات کاربر را بهصورت شمارشهای تجمیعشده نگهداری میکند. این شمارشها از طریق یک رله Oblivious HTTP (OHTTP) با مدارک ناشناس ارسال و سپس در ماشینی مجازی محرمانه پردازش میشوند؛ مشابه مفاهیم محیط اجرای مورد اعتماد.
قبل از هر ارسال، کلاینت کدی را که در محیط محرمانه اجرا میشود بررسی میکند و پارامترهای حریم خصوصی را کنترل میکند. سپس آستانههای گروهی اعمال و مکانیزمهای حریم خصوصی تفاضلی اجرا میشود تا تنها آمار تقریبی سطح جمعیت برای واتساپ قابل دریافت باشد.
توزیع مدل و تضمین سلامت اجزا
متا توزیع مدل را بهعنوان یک لایهٔ امنیتی در نظر گرفته است: هر نسخه مدل همراه با هش SHA-256 در یک دفتر شفافیت الحاقیِ شخص ثالث منتشر میشود تا کلاینتها پیش از بارگذاری، امضای مدل، تازگی و هش آن را بررسی کنند. دانلود مدل با مدارک ناشناس و OHTTP انجام میشود و تخصیص کاربران به آزمایشها بهصورت محلی صورت میگیرد تا سرور نتواند نسخهٔ خاصی را برای یک کاربر مشخص ارسال کند.
پایه فنی: PAPAYA و تفاوت تحلیل از یادگیری فدرال
هشدار کلاهبرداری مبتنی بر سیستم تحلیلی فدرال متا به نام PAPAYA است که در کنفرانس USENIX NSDI 2025 معرفی شد. PAPAYA اجرای تحلیلهای فدرال محافظتشده را با کمک محیطهای اجرای مورد اعتماد و پردازش روی دستگاه ممکن میسازد و میان بارهای کاری تحلیلی و یادگیری فدرال تمایز قائل میشود؛ در مورد واتساپ، تلماتری پیامها بهعنوان دادهای حساس تلقی شده و بر همین اساس پردازش میشود.
مقایسه با راهکارهای مشابه
گوگل در سرویس Google Messages نیز مکانیزمهایی برای محافظت بلادرنگ در برابر اسپم، فیشینگ و کلاهبرداری دارد و از روشهایی جهت حفظ حریم خصوصی استفاده میکند. رویکردهای واتساپ و گوگل در انتخاب محل پردازش و معماری تفاوت دارند، اما هر دو به سمت تشخیص محلی برای کاهش افشای محتوا حرکت میکنند.
شفافیت، امنیت و مشارکت جامعهٔ شکار باگ
متا بتای محدود را فرصتی برای ارزیابی فنی و امنیتی میداند و برنامهٔ شکار باگ را گسترش میدهد تا خط لولهٔ تحلیل فدرال محرمانه را نیز شامل شود. فایلهای باینری ماشین مجازی محرمانه و اجزای مرتبط با حریم خصوصی برای بازبینیهای امنیتی مستقل منتشر خواهند شد.
کنترل کاربری و سیاست گزارشدهی
نمایندگان واتساپ این طراحی را «فقط روی دستگاه» توصیف کردهاند؛ گزارشدهی خودکار صورت نمیگیرد و تصمیم نهایی دربارهٔ ارسال گزارشها با کاربر خواهد بود.
نکاتی که باید دنبال کرد
- ارزیابی کارایی ترکیب مدلهای محلی با محاسبات محرمانه و حریم خصوصی تفاضلی در تشخیص کلاهبرداریها
- نتایج بررسیهای امنیتی و بازخورد جامعهٔ پژوهشگران امنیت
- گزارشهای جمعی عملکرد سیستم که متا وعدهٔ انتشار آنها را داده است
منابع و مراجع: اطلاعات بیشتر دربارهٔ WhatsApp، حریم خصوصی تفاضلی و محیط اجرای مورد اعتماد.
