Googleが検索機能の前面にAIを据える改編を進めるなか、AIオーバービューで初歩的なスペルの認識や単語定義の表示ミスが相次いで確認された。検索結果の信頼性を巡る議論も広がっている。

米TechCrunchが27日（現地時間）に報じたところによると、GoogleのAIオーバービューは「Google」のスペルを誤認し、含まれる文字数を誤って答えたほか、「poop」のつづりについても誤った説明を示したという。

さらに「journalism」を「j-o-u-r-n-a-d-i-s-m」と誤表記し、米大統領の姓のつづりでもPの数を取り違えたまま「t-r-p-u-m」と表示するなど、基本的な言語処理で誤答が確認された。

単語検索でも異常な応答があった。通常は単語を検索すると辞書的な意味が表示されるが、「disregard」を検索した際には定義ではなく、「承知しました。新しい質問があればお知らせください」といったチャットボットのような文が出力されたという。

これに対しGoogleは、単語内の文字数を数える処理は大規模言語モデル（LLM）で広く知られた課題であり、現在修正を進めていると説明した。

今回の問題は、単なる機能上の不具合にとどまらない。検索サービスは正確な情報提供が前提となるだけに、AIによる要約が前面に出ることで回答の一貫性や信頼性が揺らげば、利用者の混乱を招きかねないとの指摘が出ている。

こうした現象の背景については、LLMの構造的な限界を指摘する見方がある。LLMは人間のように文字単位で文章を読むのではなく、テキストをトークン単位に分解し、数値化して処理する。このため、単語の境界を厳密に扱うのが難しく、完全な文字単位の処理は容易ではないとされる。

米ノースイースタン大学の博士課程学生、Sheridan Feuchtは「完璧なトークナイザーは存在しないだろう」と述べ、モデルがテキストをより小さな単位に分割しようとする性質そのものが、構造的に内在していると指摘した。

一方で、こうした限界が直ちにLLM全体の性能不足を意味するわけではないとの見方もある。コード生成や複雑な問題解決など、ほかの領域では依然として高い有用性を示しているためだ。

それでも今回の事例は、AIが進化しても、その出力を無条件に信頼すべきではないことを改めて示した。