随着AI搜索工具越来越多依赖AI生成内容，市场对答案趋同以及结果更易受操纵的担忧正在升温。
Axios 6月25日（当地时间）报道称，AI搜索可见性咨询公司Graphite提出，若AI搜索工具持续将基于既有AI答案生成的网页纳入结果来源，可能引发所谓“AI搜索崩溃”。这一说法源自2024年发表于《Nature》的一项研究提出的“模型崩溃”概念，即在反复使用AI输出进行再训练的过程中，模型质量会逐步下降。
Graphite表示，其基于OpenAI、Gemini和Anthropic API进行的模拟显示，模型越依赖AI生成内容，随着时间推移，给出的回答和推荐结果越容易趋于一致。
沃顿商学院的一项研究显示，把ChatGPT作为研究伙伴的个人，更可能提出质量更高的想法；但在群体共同使用的情况下，最终往往更容易集中到相似的思路上。沃顿商学院教授Gideon Nave表示，一旦所有人都依赖LLM，多样性、随机性以及可探索空间都会随之缩小。
报道还称，企业已经开始发布“对聊天机器人更友好”的内容，试图让AI系统引用并推荐自家产品或服务。这类做法被称为生成引擎优化（GEO），目的在于影响AI系统的引用和推荐结果，使其朝着更有利于自身的方向变化。
不过，Axios同时强调，上述研究并不能证明AI搜索已经出现崩溃。
Axios还指出，这项研究本质上是与AI搜索可见性业务存在利益关联的企业模拟，并非经过同行评审的学术成果，因此在解读相关结论时，也需要将这一因素纳入考量。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr