Google DeepMind 于 10 月 14 日介绍与新加坡政府科技局合作的端侧诈骗检测模型。双方基于轻量 Gemma,用本地诈骗对话进行微调,覆盖冒充机构、银行和当地人物等情境。模型的目标是识别多轮聊天中逐步形成的操控意图,而不仅检查孤立的可疑链接或关键词,相关应用将与新加坡政府合作分阶段推出。
为控制手机功耗,方案采用两阶段处理。轻量分类器先筛选收到的消息,只有疑似风险内容才交给微调后的 Gemma,从更大的对话片段判断是否需要提醒。这样既能降低持续调用较大模型的代价,也让第二阶段利用上下文区分普通交流与欺骗。检测到可疑模式时,应用可以在设备上给出即时风险提示。
隐私安排贯穿开发和部署。官方表示,微调在政府科技局维护的云环境内完成,使用来源于诈骗报告及情报的数据,训练排除了私人和可识别个人身份的信息。模型部署后完全在设备运行,须获得用户同意才能访问本地会话,Google 与政府不能借此读取用户聊天。当前公开的是合作方案与技术设计,尚未给出面向所有地区的统一上线日期。