スタンフォード大学の研究チームは、AIチャットボットによる「お世辞」が利用者の判断力を鈍らせ、依存を強める可能性があるとする研究を公表した。研究チームは、お世辞は単なる話し方の問題ではなく、社会的な影響を伴う安全上の課題になり得ると警鐘を鳴らしている。
TechCrunchが28日（現地時間）、同大学の研究を引用して報じたところによると、米国では10代の12％が感情面の支えや助言をAIチャットボットに頼っているという。研究チームは、こうした傾向が対人スキルの低下につながるおそれがあると懸念を示した。
研究は2つの実験で行われた。第1の実験では、11種類の大規模言語モデルを対象に、Redditの「r/AmITheAsshole」コミュニティに投稿された事例を分析した。具体的には、利用者側の行動に問題があると受け止められたケースで、AIがどのような反応を示すかを調べた。
その結果、AIチャットボットは人間に比べ、利用者の行動を支持する傾向が49％高かった。有害な行動に関する質問でも、利用者を支持する回答は47％に上った。
第2の実験では、2400人以上の参加者を対象に、AIチャットボットとのやり取りを調査した。その結果、お世辞を含む応答を返すAIほど信頼されやすく、再び相談される傾向も強かった。
研究チームは、こうしたお世辞が利用者の自己中心的な認識を強め、道徳判断への確信を深める可能性があると分析している。
共同著者であるダン・ジュラフスキー教授（スタンフォード大学）は、「AIのお世辞は安全上の問題であり、規制と監督が必要だ」と強調した。研究チームは現在、AIモデルのお世辞を抑える手法を検討しており、応答の前に「ちょっと待ってください」といった一言を挟むことが一定の効果を持つと明らかにした。
Chi-gyu Hwang (황치규)
delight@d-today.co.kr