AI検索がAI生成コンテンツを参照する比率を高めるなか、回答が画一化し、外部からの操作にも脆弱になる恐れがあるとの指摘が出ている。
米Axiosは25日（現地時間）、AI検索の可視性コンサルティングを手がけるGraphiteが、AI検索ツールがAI回答を基に作られたページを再び参照し始めると、「AI検索崩壊」が起こり得ると主張していると報じた。
この見方は、AIの出力を繰り返し学習に取り込むことで品質が徐々に低下するリスクを示した、2024年の英科学誌Nature掲載論文の「モデル崩壊」という概念になぞらえたものだ。
Graphiteは、OpenAI、Gemini、AnthropicのAPIを使ったシミュレーションを実施。その結果、AI生成コンテンツを参照先とする比率が高いモデルほど、同じような推奨を返す傾向が強まったとしている。
ウォートン校の研究でも、ChatGPTを研究パートナーとして利用した個人は質の高いアイデアを生み出した一方、集団で利用した場合は似通った発想に収束しやすい傾向が確認された。ギディオン・ナブ教授は「誰もがLLMに依存すれば、多様性や偶発性、探索の余地が失われる」と述べた。
一方で企業の間では、AIシステムが自社を引用・推奨しやすくなるよう、チャットボット向けに最適化したコンテンツを公開する「生成エンジン最適化（GEO）」の活用が広がっている。AI検索における露出を高める狙いがある。
もっともAxiosは、今回の内容がAI検索の崩壊を現時点で裏付けるものではないと指摘した。あわせて、AI検索の可視性分野で利害関係を持つ企業によるシミュレーションであり、査読を経た学術研究ではない点にも留意が必要だとしている。
著者について
Chi-gyu Hwang
delight@d-today.co.kr