Google DeepMindは10月14日、GovTech Singaporeと共同で、スマートフォン上で動作する詐欺検知AIモデルを開発したと発表した。会話の解析はクラウドではなく端末内で行い、詐欺の兆候を検知するとリアルタイムで警告を表示する。

今回の取り組みは、Google DeepMindとシンガポール政府による国家AIパートナーシップの一環として進めた。

Google DeepMindは、軽量モデル「Gemma」をシンガポールの詐欺会話データで微調整した。公的機関や銀行、現地の著名人になりすます手口のほか、地域で広がる詐欺のパターンも学習に反映したという。これにより、通常の会話と、実際の操作を促す詐欺的な誘導を見分けられるとしている。

モデルは会話を端末内で解析する仕組みを採用した。操作誘導のパターンを検知した場合は、送金や機微情報の共有に進む前に、いったん立ち止まるよう促す警告をリアルタイムで表示する。会話へのアクセスには利用者の同意が必要で、シンガポール政府、Googleのいずれも利用者の会話内容は閲覧できないとしている。

また、バッテリー消費を抑えるため、モデルは2段階構成とした。第1段階では軽量な分類器が受信メッセージをふるいにかけ、第2段階で微調整したGemmaが会話全体をより広く分析し、脅威の可能性があるか、誤検知かを判定する。

微調整は、GovTech Singaporeが管理するGoogle Cloud環境で実施した。学習には、個人を特定できる情報を除外した上で、詐欺被害の申告データや情報フィードから抽出した匿名化データのみを使用した。モデルは今後、シンガポール政府と協議しながらアプリへの搭載を段階的に進める予定だ。

GovTech Singaporeの信頼・安全担当ディレクター、マーク・チェン氏は「詐欺対策がプライバシーの犠牲を意味してはならない」とコメント。「地域を狙った詐欺の試みをリアルタイムで捉えながら、個人の会話は非公開のまま守ることができる」と述べた。