KAISTは10日、脳波（EEG）から人の意図を推定し、AIが目標や行動をリアルタイムで補正するブレイン・コンピュータ・インターフェース（BCI）技術「神経価値整列（NVA）」を開発したと発表した。研究はイ・サンワン特別教授のチームがMicrosoft Research Asiaと共同で進めた。

従来のAIは、発話や行動、身ぶりといった外部に表れた情報を基に人の意図を推定するのが一般的だった。ただ、同じ行動でも意図する目的が異なることがあり、真の意図を正確に捉えるには限界があった。

研究チームは、人が予想と異なる状況に直面した際、脳内で生じる「予測誤差」に着目した。この予測誤差を、AIが人の目標自体を誤って理解したときに現れる「報酬予測誤差（RPE）」と、目標は合っていても行動が想定と異なる場合に生じる「状態予測誤差（SPE）」に分けて分析した。

AIの動作を見ている人のリアルタイム脳波を測定した結果、目標の誤りと行動の誤りでは異なる脳波信号が現れることを確認した。さらに、両方の誤りが同時に起きた場合に見られる特徴的な脳波パターンも把握したという。

これを基に、深層学習を用いて脳波だけから人がAIの行動をどう評価しているかを識別する技術も開発した。人が明示的に誤りを指摘しなくても、AIが脳波から目標や行動のどこに問題があるかを把握できる仕組みだ。

研究チームはあわせて、脳波から読み取った信号をAIにリアルタイムで反映し、行動を修正する「神経価値整列ベースの人間-AIシナジー」アルゴリズムを提案した。SPEが検出された場合は目標は正しいが行動に誤りがあると判断して行動を修正し、RPEが検出された場合は目標の理解自体に誤りがあるとみて、利用者が望む目標を改めて探索する。

シミュレーションでは、人の目標が急に変化する場合や、一部の信号が欠落する状況でも、従来手法に比べて意図の変化への追随が速かった。研究チームは今後、フィジカルAIロボットが利用者の意図をくみ取って動作を調整したり、自動運転車が運転者の判断を反映したりする用途での活用を見込んでいる。

イ・サンワン特別教授は「AIが目に見える行動結果だけから人の意図を推定する段階を超え、行動の背後で生じる脳の認知信号をAIとの協調に直接活用できることを示した点に意義がある」とコメントした。

今回の研究には、KAIST脳認知科学科の博士課程に在籍するソ・フン氏が筆頭著者として参加した。研究成果は8月、国際学術誌「IEEE Transactions on Cybernetics」にオンライン掲載された。