一项最新研究显示，AI生成的语音诈骗电话可能对美国成年人构成不小威胁。整体来看，约六分之一受试者表示，自己可能会按照来电者要求行事，或无法确定是否会配合。研究还发现，相比语音本身是否足够逼真，更能影响受害者反应的，是诈骗场景的设定和话术的说服力。

据日本媒体ITmedia 28日报道，Harvard University与Meta等机构研究人员针对4100名美国成年人开展了一项AI语音诈骗实验。研究团队比较了Meta的Llama Full Duplex、OpenAI AVM、Google Gemini、Sesame、PlayAI、ElevenLabs等6款AI语音模型，以及真人语音在诈骗场景中的表现。

实验共设置5类常见诈骗情境，包括冒充信用卡公司或Gmail客服、以募捐名义索要转账、冒充警察要求支付亲属保释金，以及冒充陷入危机的妹妹请求紧急汇款等。受试者在听取通话录音或阅读对话内容后，判断自己是否会按对方要求行事。

结果显示，在全部场景中，平均有16.5%的受试者表示可能会照做，或无法判断自己是否会配合。其中，利用ElevenLabs语音克隆技术、冒充“妹妹求救”的案例中，相关比例最高，达到36.1%。

从各类场景的表现看，利用亲情关系和情绪压力的诈骗话术，比常见的客服冒充更容易让人作出回应。研究人员指出，真正起决定作用的并不是AI语音的自然度，而是是否能够通过情境设定激发紧迫感、同情心等情绪，从而增强话术的说服力。

在辨别能力方面，70.3%的参与者能够正确识别AI语音；但与此同时，将真人语音误判为AI生成的比例也高达67.4%。研究还显示，即便平时经常使用生成式AI或语音助手，受试者在辨别真假语音方面也没有表现出明显优势。

成本测算显示，若以美国人力成本为基准，人工拨打诈骗电话的时薪成本约为27美元（约3.62万韩元）；而使用部分AI模型后，诈骗方甚至可能实现每小时1至3美元（约1340至4030韩元）的收益。

不过，研究同时强调，这项实验衡量的是问卷环境下的“配合意向”，并不等同于真实世界中的诈骗得手率，因此不能将16.5%直接解读为实际诈骗成功率。研究人员警告，随着AI语音技术持续扩散，诈骗电话的自动化程度可能进一步提高，大规模外呼的成本也将继续下降。