Google DeepMind当地时间10月14日发文称，已与新加坡政府技术局GovTech Singapore合作开发一款可在智能手机端运行的反诈骗AI模型。
此次合作属于Google DeepMind与新加坡政府“国家AI伙伴关系”框架的一部分。
Google DeepMind表示，该模型基于轻量模型Gemma开发，并结合本地诈骗对话数据进行微调。训练内容涵盖冒充公共机构、银行以及本地知名人士等常见诈骗场景，同时纳入当地流行的诈骗手法，以提升模型对日常交流与诈骗操控话术的区分能力。
与依赖云端处理的方案不同，这一模型可在设备端本地完成对话分析。一旦识别出可疑操控模式，系统会在用户转账或分享敏感信息前实时弹出提醒，提示暂停操作。Google DeepMind表示，模型只有在获得用户同意后才能访问相关对话内容，且新加坡政府与Google均无法查看用户聊天内容。
为平衡功耗与实时预警能力，双方采用了两阶段架构。第一阶段由轻量级分类器对收到的消息进行初步筛选；第二阶段再由微调后的Gemma对对话进行更全面的分析，并判断是否属于诈骗或误报。
此次微调工作在GovTech Singapore管理的Google Cloud环境中完成。训练数据已剔除个人可识别信息，仅使用从诈骗举报记录及其他信息来源提取的匿名数据。该模型未来将在与新加坡政府协调后，逐步集成到相关应用中。
GovTech Singapore信任与安全负责人Mark Chen表示，打击诈骗不应以牺牲隐私为代价，这套方案能够在实时拦截针对本地用户的诈骗行为的同时，确保个人对话内容不被公开。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr