InfoQ 中文 发布于 08/26 23:00

WhatsApp 测试 AI 反诈:消息无需上传云端

查看原文

资讯摘要

WhatsApp 测试利用端侧机器学习和隐私保护分析检测诈骗。

AI 摘要

WhatsApp正小范围测试Scam Alert功能,通过端侧机器学习模型识别非联系人消息中的诈骗模式,无需将消息上传云端。该功能使用机密计算、差分隐私和透明度账本保护隐私,用户可手动屏蔽、举报或标记信任。Meta已公开技术架构,并扩大Bug Bounty计划进行安全审查。

AI 问答

Scam Alert如何保护用户消息隐私?

消息在设备本地通过机器学习模型分类,不会上传云端;性能数据通过机密虚拟机、差分隐私和Oblivious HTTP中继等机制处理,只汇总匿名统计信息。

用户收到诈骗警告后能做些什么?

用户可以选择屏蔽、举报或继续对话,也可以将聊天标记为可信,之后该对话不再被标记;还可选择分享最近5条可信消息帮助改进功能。

打开原文