谷歌DeepMind携手新加坡政府科技局，推出隐私保护型端侧反诈骗模型

谷歌DeepMind与新加坡政府科技局（GovTech）联合开发了一款创新型诈骗检测模型。该模型可在智能手机上运行，能够在不向外部服务器发送任何消息内容的前提下，实时分析用户对话，从而有效识别潜在诈骗。

谷歌DeepMind周三发表声明指出，此项目是谷歌与新加坡政府“国家人工智能伙伴关系”框架下的一项重要合作。

诈骗案件在新加坡报告的犯罪活动中占比超过一半，自2019年以来，造成的经济损失已累计超过40亿新元。其中，通过建立信任关系后诱导受害者转账的“社会工程”式诈骗，如今已造成高达八成的经济损失。

该模型基于谷歌轻量级Gemma模型开发，合作双方针对本地诈骗对话模式进行了精细化调整。训练材料涵盖了冒充公共机构、银行及本地知名人物的诈骗手法，以及区域内新兴的诈骗方案。

该模型采用两阶段工作机制。首先，一个轻量级分类器以极低的能耗筛选传入消息，并标记可疑信息。随后，经过精细调优的Gemma模型对更长的对话片段进行深入分析，以确认是否存在操纵性模式，或排除误报。

一旦模型确认存在威胁，它会在设备上实时显示警告，提示用户在分享个人信息或资金前务必谨慎暂停。

合作双方强调，该模型仅在用户明确同意且符合各应用软件使用条款的前提下，才能访问对话内容。在部署过程中，无论是新加坡政府还是谷歌，都无法通过此模型读取用户的对话信息，充分保障用户隐私。

谷歌表示，该模型的推广将与新加坡政府合作分阶段进行，并计划将其整合到新加坡公民日常使用的应用程序中。

模型的精细化调优是在GovTech管理的云环境中完成的，训练数据与外部环境严格隔离。合作伙伴指出，训练过程排除了任何私人和可识别个人身份的信息，仅使用了来自诈骗报告和情报源的匿名化数据。

谷歌DeepMind透露，该模型已针对合成对话和多种诈骗类别的本地语言模式进行了广泛测试。

另据市场消息，谷歌云已在新加坡设立工程中心，旨在为全球市场开发人工智能和云计算产品。