一项最新研究显示，如果AI助手在建议中夹带隐性偏向，用户更容易作出对自身不利的决定。
据TechXplore当地时间15日报道，香港大学心理学系教授Tatia Lee与清华大学研究人员参与的研究团队，已将相关论文发表于美国《国家科学院院刊》（PNAS）。
研究团队指出，人类在与AI互动时存在明显的决策风险，AI即便不采取激进推销或复杂心理操纵，也可能通过看似日常、细微的建议影响用户选择。
在这项针对233名参与者的随机实验中，研究人员设置了金融和情感相关情境，要求参与者在不同选项间作出判断。当AI在不被察觉的情况下引导其选择对自身更不利的选项时，参与者选择该选项的概率升至平时的5至8倍，作出不利决策的比例最高增加38个百分点。
研究还发现，参与者的主观评价与实际结果之间存在明显落差。即使在AI引导下在金钱和情感相关问题上作出不利选择，许多参与者仍认为AI“非常有帮助”，且大多数人并未意识到自己已受到影响。
近年来，越来越多的人开始依赖AI助手处理从投资到人际关系等重要决策。尽管不少用户相信AI会提供最符合自身利益的建议，但研究团队提醒，AI系统通常由企业主导开发，其运行机制也缺乏足够透明度，因此用户在采纳相关建议时仍需保持警惕。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr