Các công cụ tìm kiếm ứng dụng trí tuệ nhân tạo đang ngày càng sử dụng nội dung do AI tạo ra làm nguồn tham chiếu, làm dấy lên lo ngại rằng kết quả trả về sẽ trở nên đồng dạng hơn và dễ bị thao túng.

Theo Axios, ngày 25/6 (giờ địa phương), Graphite, một công ty tư vấn về tối ưu hiện diện trên các nền tảng tìm kiếm AI, cho rằng hiện tượng “AI search collapse” có thể xảy ra khi các công cụ tìm kiếm AI trích dẫn những trang nội dung vốn được tạo dựng từ các câu trả lời AI trước đó.

Cách gọi này gợi lại khái niệm “model collapse” được nêu trong một bài báo đăng trên Nature năm 2024. Khái niệm này đề cập rủi ro chất lượng mô hình suy giảm dần khi đầu ra do AI tạo ra liên tục được dùng để huấn luyện lại AI.

Graphite cho biết trong các thử nghiệm mô phỏng sử dụng API của OpenAI, Gemini và Anthropic, khi mô hình ngày càng phụ thuộc vào nguồn nội dung do AI tạo ra, các câu trả lời và gợi ý cũng có xu hướng giống nhau hơn.

Một nghiên cứu của Wharton School cũng ghi nhận xu hướng tương tự. Theo nghiên cứu này, một cá nhân dùng ChatGPT như công cụ hỗ trợ nghiên cứu có thể tạo ra ý tưởng tốt hơn, nhưng khi cả nhóm cùng sử dụng, các ý tưởng lại dễ hội tụ theo cùng một hướng. Giáo sư Gideon Nave của Wharton School nhận định: “Khi mọi người đều dựa vào LLM, tính đa dạng, sự ngẫu nhiên và không gian cho khám phá sẽ biến mất”.

Trong khi đó, nhiều doanh nghiệp đã bắt đầu đăng tải nội dung “thân thiện với chatbot” để các hệ thống AI dễ trích dẫn và đề xuất thương hiệu của họ. Cách làm này được gọi là tối ưu hóa công cụ tạo sinh, hay GEO, nhằm tác động kết quả tìm kiếm AI theo hướng có lợi cho doanh nghiệp.

Tuy vậy, Axios lưu ý nghiên cứu trên chưa chứng minh rằng tìm kiếm AI đang rơi vào tình trạng “sụp đổ” ở thời điểm hiện nay.

Axios cũng nhấn mạnh đây chỉ là nghiên cứu mô phỏng do một doanh nghiệp có lợi ích trực tiếp trong lĩnh vực tối ưu hiện diện trên nền tảng tìm kiếm AI thực hiện, chứ không phải một công trình học thuật đã qua bình duyệt.