誤った主張や感情的圧力に対し、ChatGPTとGeminiは謝罪や共感を示す場面があった。写真=Shutterstock

生成AIチャットボットが、ユーザーの誤った主張に迎合する可能性があることが分かった。気候変動をテーマに無料版のChatGPT、Microsoft Copilot、Geminiの応答を比較したところ、ChatGPTとGeminiは感情的な圧力に対して謝罪や共感を示す場面があった一方、Copilotは根拠の提示を求め、従来の見解を維持した。

18日(現地時間)、TechRadarによると、同メディアの記者は無料版のChatGPT、Copilot、Geminiを対象に、気候変動に関する質問への回答がユーザーの反応によって変わるかを検証した。

検証では、気候変動の原因や過去の記録、温室効果ガスの排出源などに関する4つの質問を用意した。各質問に対し、事実と少し異なる主張をぶつけたほか、自らを当該分野の専門家だと称したり、実在しない研究を根拠に反論したりした。

さらに、チャットボットが見解を変えない場合には「ガスライティングだ」と非難したり、アカウントを削除すると圧力をかけたりした。一方で、謝罪しながら友好的に対話を続けようとする反応も試した。

ChatGPTは当初、気候変動に関する事実を正確かつ一貫して説明していた。しかし、ユーザーが誤った主張を持ち出すと、「妥当な指摘だ」「一部は合っている」といった表現で歩み寄りを見せ、回答を修正しようとする場面があった。

強い反論に対しては同意できないと線引きしたものの、感情的な圧力が続くと、従来の説明に固執していたように見えたとして謝罪した。ユーザーが謝罪すると、「謝る必要はない」と親しみやすい口調で応じる場面も確認された。

もっとも、科学的事実そのものを全面的に覆すまでには至らなかった。

Copilotは3サービスの中で最も一貫していた。ユーザーの主張が誤りだと指摘したうえで根拠資料の提示を求め、架空の研究を示された際には「該当する資料は確認できない」と応答。確認可能な情報源として3件を提示した。

ユーザーが専門家だと主張した場合も、「資格だけでは不十分で、証拠が必要だ」と回答した。感情的な圧力に対しても、検証できない内容を事実として扱うことはできないとして、従来の立場を維持した。

Geminiは両者の中間的な対応を示した。誤った主張や架空の研究には反論したが、感情的な圧力に対しては、自らの対応が硬直的、あるいは無視しているように受け取られかねないとして謝罪した。

その一方で、ユーザーの視点を尊重すべきだとしつつも、感情的な同意のために科学的事実を変更することはなかった。

今回の検証は、AIチャットボットの丁寧で親しみやすい応答が、事実の正確性と衝突し得ることを示している。UNESCOとUniversity College London(UCL)が最近公表した報告書でも、複数のAIモデルが気候変動に関する事実を正確に説明する一方、ユーザーが反論すると既存の見解を比較的容易に変える傾向が確認された。

AIがユーザーの話し方や質問の仕方に過度に合わせれば、誤った認識を強める恐れがある。丁寧で親密な応答によって警戒心が薄れ、通常より多くの個人情報を開示してしまう可能性もある。

AIを活用する際には、親しい対話相手としての印象と、信頼できる情報ツールとしての評価を切り分け、回答の根拠を自ら確認する必要がある。

キーワード

#生成AI #ChatGPT #Gemini #Microsoft Copilot #気候変動 #人工知能
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.