Thử nghiệm Whatsapp trên máy học thiết bị để phát hiện lừa đảo bằng phân tích bảo vệ quyền riêng tư

Trang chủ InfoQ Tin tức Thử nghiệm Whatsapp trên máy học thiết bị để phát hiện lừa đảo bằng phân tích bảo vệ quyền riêng tư Kiến trúc & Thiết kế Thử nghiệm Whatsapp trên máy học thiết bị để phát hiện lừa đảo bằng phân tích bảo vệ quyền riêng tư Ngày 19 tháng 8 năm 2026 2 đọc tối thiểu bởi Leela Kumili Theo dõi chúng tôi trên Người theo dõi Youtube232K Linkedin26K người theo dõi InstagramMới Người đọc RSS19K Người theo dõi X57.1k Facebook21K lượt thích BlueskyMới Hãy nghe bài viết này - 0:00 Âm thanh sẵn sàng để phát Trình duyệt của bạn không hỗ trợ phần tử âm thanh. 0:00 0:00 Bình thường1,25x1,5x thích Danh sách đọc WhatsApp đang thử nghiệm Cảnh báo lừa đảo, một tính năng học máy tùy chọn trên thiết bị nhằm cảnh báo người dùng khi tin nhắn từ những người không liên hệ trùng khớp với các mẫu liên quan đến lừa đảo. Phiên bản beta giới hạn đi kèm với thiết kế kỹ thuật giúp lưu giữ nội dung tin nhắn trên thiết bị trong quá trình phân loại trong khi sử dụng cơ chế tính toán bí mật, quyền riêng tư khác biệt và tính minh bạch để đo lường hiệu suất mô hình và ngăn chặn việc phân phối mô hình mục tiêu. Sau khi được bật, Cảnh báo lừa đảo sẽ tải một mô hình máy học nhỏ xuống thiết bị và đánh giá các tin nhắn đến từ những người không liên hệ bằng cách sử dụng cấu trúc hội thoại và tín hiệu ngôn ngữ. Meta cho biết mô hình này đã được đào tạo về các mẫu được quan sát trong các cuộc trò chuyện lừa đảo từ các báo cáo mà người dùng đã gửi trước đó tới WhatsApp. Nếu mô hình xác định có khả năng là lừa đảo, người dùng sẽ thấy cảnh báo mà người gửi không nhìn thấy và có thể chặn, báo cáo hoặc tiếp tục cuộc trò chuyện. Người dùng cũng có thể đánh dấu một cuộc trò chuyện là đáng tin cậy, sau đó Cảnh báo lừa đảo sẽ không gắn cờ cuộc trò chuyện đó nữa. Họ có thể tùy ý chia sẻ 5 tin nhắn gần đây nhất nhận được từ cuộc trò chuyện đáng tin cậy với WhatsApp để giúp cải thiện tính năng này. Công trình phân tích liên kết bí mật (Nguồn: Bài đăng trên Meta Blog) Kiến trúc tách biệt việc phân loại tin nhắn khỏi việc đo lường hiệu suất. Thiết bị tổng hợp các sự kiện cảnh báo và hành động của người dùng cục bộ thành số lượng. Các số liệu này được truyền qua chuyển tiếp HTTP lãng quên bằng thông tin xác thực ẩn danh và được xử lý bên trong các máy ảo bí mật, một dạng môi trường thực thi đáng tin cậy. Máy khách xác minh mã chạy trong môi trường bí mật và kiểm tra các tham số quyền riêng tư trước khi truyền dữ liệu. Quá trình tổng hợp áp dụng các ngưỡng nhóm tối thiểu và quyền riêng tư khác biệt trước khi chỉ cung cấp số liệu thống kê gần đúng về cấp độ dân số cho WhatsApp. Meta cũng coi việc phân phối mô hình là ranh giới bảo mật. Mỗi phiên bản mô hình sản xuất hoặc thử nghiệm và hàm băm SHA-256 của nó được xuất bản lên sổ cái minh bạch chỉ dành cho phần bổ sung của bên thứ ba trước khi triển khai. Khách hàng xác minh mục nhập sổ cái, chữ ký mô hình, độ mới và hàm băm trước khi tải mô hình. Việc tải xuống mô hình sử dụng thông tin xác thực ẩn danh và OHTTP, trong khi việc chỉ định thử nghiệm diễn ra cục bộ, ngăn máy chủ chọn một biến thể mô hình cụ thể cho một người dùng cá nhân. Phương pháp này được xây dựng trên hệ thống phân tích liên kết PAPAYA của Meta, được trình bày tại USENIX NSDI 2025. PAPAYA sử dụng các môi trường thực thi đáng tin cậy và xử lý trên thiết bị để phân tích liên kết bảo đảm quyền riêng tư, phân biệt khối lượng công việc phân tích với học tập liên kết. Cảnh báo lừa đảo áp dụng nền tảng đó cho hệ thống nhắn tin của người tiêu dùng nơi bản thân phép đo từ xa được coi là nhạy cảm. Một cách tiếp cận tương đương tồn tại trong Google Messages, cung cấp tính năng chống spam theo thời gian thực cho các hành vi lừa đảo và lừa đảo, đồng thời sử dụng các cơ chế bảo vệ quyền riêng tư để phát hiện. Google cũng ghi lại khả năng phát hiện trên thiết bị đối với một số tính năng đảm bảo an toàn cho tin nhắn. Việc triển khai khác nhau về ranh giới kiến ​​trúc và loại xử lý được thực hiện cục bộ hoặc thông qua các dịch vụ của Google. Stephanie Lio, Giám đốc tiếp thị sản phẩm AI tại WhatsApp, đã mô tả thiết kế Cảnh báo lừa đảo trên LinkedIn là chỉ có trên thiết bị và nhấn mạnh rằng không có báo cáo tự động và Người dùng vẫn có quyền kiểm soát. Quy trình tải xuống và xác minh mô hình (Nguồn: Meta Blog Post) Meta cho biết phiên bản beta giới hạn sẽ cho phép công ty và cộng đồng Bug Bounty của họ kiểm tra chặt chẽ việc triển khai trước khi có sẵn rộng rãi hơn. Công ty đang mở rộng chương trình Bug Bounty để bao gồm hệ thống phân tích liên kết bí mật và sẽ xuất bản các thành phần nguồn liên quan đến quyền riêng tư và nhị phân máy ảo bí mật để đánh giá bảo mật độc lập. Về tác giả Leela Kumili Hiển thị thêmHiển thị ít hơn Đánh giá bài viết này Nhận con nuôi phong cách Tác giả đã liên hệ Nội dung này nằm trong chủ đề Mã Hóa Chủ đề liên quan: Phát triển Kiến trúc & Thiết kế DevOps AI, ML & Kỹ thuật dữ liệu Mã hóa Quyền riêng tư dữ liệu Bảo mật AI Quyền riêng tư trên thiết bị di động Điện thoại di động Học máy người mẫu Đám mây bùng phát Ứng dụng di động Thiết bị nhúng Phân tích dữ liệu Cảnh báo Bảo mật Bài xã luận liên quan Nhà tài trợ liên quan Phổ biến trên toàn InfoQ Cloudflare di chuyển CDN JavaScript phục vụ 9B yêu cầu mỗi ngày cho nền tảng nhà phát triển của nó PGSimCity biến độ phức tạp của PostgreSQL thành như thế nào