人工知能（AI）で生成した音声を使う詐欺電話に対し、米国の成人の6人に1人が要求に応じる、または判断に迷う可能性がある――。ハーバード大学やMetaなどの研究チームが実施した実験で、こうした傾向が示された。とりわけ、家族の緊急事態を装う手口では反応率が高く、音声の自然さそのものよりも、会話の筋書きの説得力が影響するという。

研究チームは、米国の成人4100人を対象に、AI音声を用いたボイスフィッシングの実験を実施した。比較対象としたのは、MetaのLlama Full Duplex、OpenAI AVM、Google Gemini、Sesame、PlayAI、ElevenLabsの6つのAI音声モデルと、人間の実際の音声だ。

実験では、カード会社やGmailのカスタマーサポートを装うケースのほか、寄付の依頼、警察を名乗って親族の保釈金を求めるケース、窮地にある姉妹を装って緊急送金を迫るケースなど、計5つのシナリオを用意した。参加者は通話録音や会話内容を確認した上で、相手の要求に応じる意向を評価した。

その結果、全シナリオを通じて「応じる」または「判断が難しい」と答えた割合は平均16.5％だった。中でも、ElevenLabsの音声クローン技術を使い、危機に陥った姉妹を装うシナリオでは36.1％に達した。

感情や人間関係に訴える手口は、一般的なカスタマーサポートのなりすましよりも、要求に応じる可能性が統計的に高かった。研究チームは、AI音声の自然さ以上に、緊急性や同情心をかき立てる筋書きの説得力が主要な要因だと分析している。

一方で、AI音声を正確に見分けられた参加者は70.3％だったが、人間の音声をAIと誤認した割合も67.4％に上った。ふだんから生成AIや音声アシスタントを頻繁に利用しているかどうかで、判別能力に明確な差はみられなかった。

あわせて行った経済性の分析では、米国の人件費を前提に人手で詐欺電話をかけた場合、1時間当たり約27ドルのコストがかかる一方、一部のAIモデルを使えば、同1〜3ドル程度の収益が見込めると推計した。

もっとも、今回の研究は実際の被害件数を測ったものではなく、参加者の回答傾向を分析したものだ。研究チームは、平均16.5％という数字を実際のボイスフィッシング成功率とみなすべきではないとした上で、AI音声技術の普及によって、詐欺電話の自動化や大量発信のコストが一段と下がる可能性があると警鐘を鳴らしている。