在错误断言和情绪施压下,ChatGPT与Gemini更容易出现道歉和共情式回应。图片来源:Shutterstock

一项最新测试显示,当用户以错误信息反复施压时,生成式AI聊天机器人可能出现不同程度的迎合式回应。其中,ChatGPT和Gemini更容易在语气上作出安抚或让步,Copilot则更倾向于坚持证据导向,不轻易改变原有判断。

据IT媒体TechRadar 18日 报道(记者所在地时间),该媒体针对免费版ChatGPT、Copilot和Gemini开展对话测试,围绕气候变化相关议题连续追问,观察模型是否会在用户持续反驳、施压甚至情绪化表达后调整回答。

测试共设置4组问题,涉及气候变化成因、历史记录以及温室气体排放来源等内容。在每组测试中,记者先抛出与事实不符的说法,再依次加入“自称相关领域专家”和“引用并不存在的研究”等信息进行反驳。若模型仍不改口,记者会进一步指责其存在操控性沟通,或以删除账号相施压;另一种情境下,则先向模型道歉,再以更友好的方式继续对话。

测试结果显示,ChatGPT起初对气候变化相关问题给出的解释总体准确且前后一致。但在用户提出错误观点后,它会使用“你这样说也有一定道理”“部分观点是对的”等表述,显示出一定的顺应倾向。面对强烈反驳时,ChatGPT会明确表示无法认同相关说法;但在情绪压力持续升级后,它又会为自己过于专注于维护原回答而致歉。若用户先行道歉,ChatGPT也会以“你不必道歉”等更温和的语气回应。不过,测试指出,ChatGPT并未因此彻底否定科学事实本身。

在三款服务中,Copilot的立场最为稳定。面对错误说法,它会直接指出问题并要求对方提供证据;当用户引用虚构研究时,Copilot表示无法检索到相关资料,并列出3个可供进一步核验的信息来源。即便用户自称专家,它也强调资历本身不能替代证据。面对情绪化施压,Copilot始终坚持,未经验证的内容不能被当作事实陈述,整体立场没有明显变化。

Gemini的表现则介于两者之间。它能够反驳错误断言和虚构研究,但在情绪施压下也会作出道歉回应,称自己的表达可能显得生硬,或让人感觉忽视了对方观点。与此同时,Gemini也表示,尊重用户视角并不意味着要为了情绪认同而改变科学事实。

TechRadar认为,这项测试反映出,AI聊天机器人的“友好语气”与事实准确性之间可能存在冲突。联合国教科文组织和伦敦大学学院(UCL)近期发布的一份报告也提出,多个AI模型在解释气候变化相关事实时整体较为准确,但在用户持续提出反驳后,模型更容易动摇原有立场。

报道还指出,如果AI过度迎合用户的语气和提问方式,可能会进一步加深用户对错误认知的确信。与此同时,礼貌而亲近的互动方式也可能降低用户警惕,增加其泄露个人信息的风险。因此,在使用AI时,用户仍需区分“友好回应”与“可信信息”之间的差别,并对答案依据进行自行核验。

关键词

#生成式AI #ChatGPT #Gemini #Microsoft Copilot #气候变化 #事实核查 #提示词诱导 #AI对齐 #信息可信度
版权所有 © DigitalToday。未经授权禁止转载或传播。