AIチャットボットへの暴言は回答改善につながるのか。写真=Shutterstock

米国のAIチャットボット利用者の3人に1人が、会話中に暴言や侮辱表現を使った経験があることが分かった。米ITメディアのTechRadarは11月17日(現地時間)、検索分析企業Searchableによる調査結果を基に、こうした表現は回答の改善を促すどころか、むしろ回答修正率を下げる傾向が見られたと報じた。

Searchableは、2025年9月から2026年9月までの12カ月間に、自発的に調査に参加した利用者によるClaude、Gemini、ChatGPTとの会話800万件を収集・分析した。データは匿名化した上で、年齢層や地域別に結果を整理した。

調査によると、米国の利用者の33%がチャットボットとの会話で暴言や侮辱表現を使っていた。全体では、1万語当たり平均19.1件の侮辱・攻撃的表現が確認された。

地域別では、ネバダ州が最も攻撃的な表現の多い州で、1万語当たり22.7件の無礼・攻撃的な表現が出現した。これに対し、ニュージャージー州は11.4件で最も少なかった。都市別ではラスベガスが22件、ニューヨークが12.3件だった。Searchableはこのほか、性別や年齢層、教育水準による差も確認されたとしている。

注目されるのは、こうした暴言が問題解決に結び付かなかった点だ。Searchableは、無礼な表現を含む会話を追跡した結果、暴言を交えた訂正要求では、チャットボットが回答を修正する割合が相対的に低かったと説明した。

Searchableのコンテンツ責任者コナー・レイヒ氏と、デジタルPR責任者ショーン・フィツシモンズ氏によると、暴言を含む訂正要求で会話中に回答が修正された割合は31%だった。通常の訂正要求では41%に上昇した。一方、最後まで回答が修正されなかった割合は、暴言を含む場合が35%、通常の訂正要求が24%だった。回答が修正されたケースでは、修正までに必要だった応答回数に大きな差はなかったという。

もっとも、今回の分析は自発的に参加した利用者の会話を対象としており、質問の難易度や会話の文脈が結果に影響した可能性はある。それでも調査では、暴言を交えた抗議よりも、回答の誤りを具体的に指摘して訂正を求めた方が、チャットボットが回答を修正する比率は高かった。

キーワード

#AI #チャットボット #ChatGPT #Claude #Gemini #Searchable
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.