DeepMind 与新加坡探索端侧反诈模型

JJ Geewax 和 Miguel de Andrés

与新加坡政府科技局（GovTech Singapore）合作，在保护用户的同时保障隐私。

投资诈骗、虚假招聘、冒充公职人员等诈骗案件，占新加坡报案犯罪总数的一半以上。自 2019 年以来，这些诈骗造成的损失已超过 40 亿新加坡元（S$4 billion）。与此同时，诈骗手法也从简单的 phishing 转向复杂的社会工程：攻击者先通过极具说服力的对话操纵受害者，再向他们索要钱财。这类诈骗造成的损失，如今已占全部诈骗损失的最高 80%。

为应对这一问题，Google DeepMind 与新加坡政府科技局（GovTech Singapore）一直在开展合作，这也是我们与新加坡政府建立的国家级 AI 合作伙伴关系的一部分。双方共同微调了一个保护隐私、在设备端运行的诈骗检测模型。

在设备端提供 AI 保护，同时保障隐私

通用模型往往难以识别本地的欺骗手法，这让诈骗检测变得更加困难。为此，我们使用本地诈骗对话，对 Google 的轻量级 Gemma 模型进行了微调。这些对话涵盖冒充公共机构、银行和当地人物，以及近期流行的区域性诈骗套路。这能确保微调后的模型在部署到公民安装的应用中时，可以区分无害的日常闲聊与真正的操纵行为。

传统威胁检测依赖云端服务器扫描消息，而这个模型可以直接在设备端处理对话数据。将其集成到应用后，就能更快地分析对话模式，识别操纵意图，帮助公民在遭受财务损失或泄露凭据之前采取行动。

模型在应用中的推出将与新加坡政府合作推进，经过审慎规划，分阶段实施。部署后，模型只有在用户同意的情况下，才能按照相应应用的使用条款访问设备上的对话。由于模型完全在设备端运行，新加坡政府和 Google 都无法通过这一部署访问用户的对话。

打击诈骗不应以牺牲个人隐私为代价。通过与 Google DeepMind 合作，我们正在将先进的 AI 保护直接带到公民的设备上。这让我们能够实时识别针对性极强的本地诈骗企图，同时保持个人通信的私密性。

Mark Chen，新加坡政府科技局信任与安全总监

打击诈骗不应以牺牲个人隐私为代价。通过与 Google DeepMind 合作，我们正在将先进的 AI 保护直接带到公民的设备上。这让我们能够实时识别针对性极强的本地诈骗企图，同时保持个人通信的私密性。

技术内部：本地语境与设备端效率

当模型检测到具有操纵意图的对话模式时，会直接在用户设备上触发实时警告，提醒用户在分享敏感信息或转账之前，先停下来，谨慎判断。

在现代智能手机上运行复杂的诈骗分类模型并不容易，电池使用效率尤其需要关注。为此，我们采用了一个两阶段处理流程：

• **阶段 1：**使用轻量、高效的分类器筛查收到的消息，以极低的功耗识别潜在威胁。
• **阶段 2：**使用微调后的 Gemma 模型进行上下文分析，分析范围更广的对话片段，以确认威胁或排除误报。

以严格治理为基础

这项合作在新加坡国际网络安全周（SICW 2026）上亮相，为消息平台兼顾用户保护与端到端加密提供了一个范例。整个开发过程始终遵循严格的治理要求：

• **主权沙箱：**微调在由 GovTech Singapore 管理和维护的 GCP 环境中进行，确保训练数据处于隔离状态。
• **不使用公民数据：**训练严格排除私人信息或个人身份信息，使用来自诈骗报告和情报源的匿名化数据集。
• **压力测试：**使用合成对话和本地语料测试模型，覆盖不同的诈骗类别，以及不断演变的冒充手法。

设备端安全的未来

这个项目展示了 AI 如何在保障安全和隐私的同时，帮助打击犯罪。它也说明，政府与模型提供商可以携手开发服务公共利益的技术。通过这个轻量级设备端模型，我们已经验证了在本地实时检测诈骗的能力，同时确保聊天交互保持安全。我们期待尽快分享与新加坡政府合作的更多进展，也将探索在其他国家部署类似技术的可能性。

强化新加坡的 AI 未来：建立新的国家级合作伙伴关系

通过 AI 加速规划，推动英国住宅建设

宣布与大韩民国建立合作伙伴关系

通过 AI 驱动的科学与教育，加速印度的发现进程

加强与英国政府的合作，支持 AI 时代的繁荣与安全

深化与英国 AI Security Institute 的合作

Google DeepMind 支持美国能源部推进 Genesis：一项加速创新与科学发现的国家使命