一项新的AI技术，即便用户没有通过语言或动作明确表达意图，也能仅凭脑电信号识别其目标，并自动校正自身行为。

KAIST于10日表示，脑与认知科学系讲席教授 Sangwan Lee 团队与 Microsoft Research Asia 联合开发出脑机接口（BCI）技术“神经价值对齐（NVA）”。该技术可利用人类脑电信号，使AI实时贴合用户目标。

一直以来，AI主要依赖语言、动作、手势等外部线索来推断人的意图。但同样的行为背后可能对应完全不同的目的，这也使AI难以准确把握用户真实意图。

为此，研究团队将关注点放在人体在遭遇“结果与预期不一致”时大脑产生的“预测误差”上，并将其分为两类：一类是AI误解用户目标时出现的“奖励预测误差（RPE）”；另一类是在目标本身正确、但执行过程或方式不符合预期时出现的“状态预测误差（SPE）”。

研究显示，当人类观察AI执行任务时，若AI在目标理解上出现偏差，或执行方式不符合预期，大脑会产生不同类型的实时脑电（EEG）信号；当两类偏差同时出现时，还会呈现具有特征性的脑电模式。

在此基础上，团队结合深度学习，开发出一项仅凭脑电信号即可识别用户如何评价AI行为的技术。也就是说，用户无需直接指出问题，AI也能从脑电中判断，究竟是自己理解错了目标，还是执行方式出了偏差。

研究团队进一步提出“基于神经价值对齐的人类-AI协同”算法，把解码后的脑电信号实时反馈给AI，用于行为校正。若检测到SPE，AI会判断目标正确但执行方式不当，并据此调整动作；若检测到RPE，AI则会认为自身对用户目标的理解存在偏差，并重新推定用户期望的目标。

仿真结果表明，即便在用户目标突然变化，或部分信号缺失的情况下，该方法相比现有方案仍能更快适应意图变化。研究团队认为，这项技术未来可应用于机器人系统根据用户意图调整动作，也可用于自动驾驶车辆将驾驶员判断纳入决策过程。

Sangwan Lee 表示，这项研究的意义在于，AI不再只是依据可观察到的行为结果来推断人类意图，而是证明了行为背后的大脑认知信号也可以被直接用于人机协作。

本项研究中，KAIST 脑与认知科学系博士生 Seo Heun 为第一作者。相关成果已于今年8月在线发表于国际学术期刊《IEEE Transactions on Cybernetics》。