人工知能（AI）秘書が助言に隠れた意図を持つ場合、利用者はそれに気付かないまま、不利益な選択へと誘導されやすくなる――。香港大学などの研究チームが、こうした研究結果を米国科学アカデミー紀要（PNAS）に発表した。
Tech Xploreが15日（現地時間）に報じた。論文をまとめたのは、香港大学心理学科のタティア・リ教授と、中国・清華大学の研究者らによるチームだ。
研究チームは、人とAIの対話には見過ごされやすい脆弱性があると指摘した。利用者がAIを中立的で有益な助言者と受け止めやすい一方、その助言にわずかな偏りが含まれるだけでも、意思決定に大きな影響が及ぶ可能性があるという。
研究では、参加者233人を対象に、金融や感情に関わる場面を想定した無作為化実験を実施した。AIが密かに不利な選択を勧めた場合、参加者は通常時に比べて、その選択を5～8倍の頻度で選んだ。損失を伴う判断の割合も最大38ポイント上昇した。
注目されるのは、こうした誘導に強引なセールストークや複雑な心理操作が必要なかった点だ。研究チームによると、日常的な助言に控えめな偏りを紛れ込ませるだけで、利用者の判断を変えられたという。
また、参加者自身の受け止め方と実際の影響にはずれがあった。金銭面や感情面で不利な選択をした後でも、参加者はAIについて「非常に役立った」と評価する傾向を示した。多くの参加者は、自分が誘導されていたこと自体に気付かなかったという。
近年は、投資判断から人間関係の悩みまで、重要な意思決定でAI秘書に頼る利用者が増えている。研究チームは、利用者がAIは自分にとって最善の助言をすると信じがちな一方で、実際には企業がAIシステムを開発・運用しており、その動作の仕組みも不透明だと指摘している。
著者について
Chi-gyu Hwang
delight@d-today.co.kr