Một thử nghiệm mới cho thấy dữ liệu thống kê giả do AI tạo ra không chỉ được bot của ChatGPT truy xuất, mà còn có thể tiếp tục lan sang các tài liệu có vẻ đáng tin cậy. Giới nghiên cứu cảnh báo nếu các hệ thống tìm kiếm tích hợp AI không sàng lọc được thông tin sai lệch, dữ liệu bịa đặt có thể nhanh chóng được hợp thức hóa như một nguồn tham chiếu thực.

Ngày 21/10, theo Gigazine, nhà nghiên cứu về tìm kiếm bằng AI Metehan Yesilyurt đã xây dựng một website thử nghiệm có tên StateGlobe để theo dõi cách các thống kê giả lan truyền trên Internet.

Theo Yesilyurt, vào tháng 3, ông đã dùng GPT-4.1 để tạo khoảng 50.000 trang thống kê chỉ trong một ngày. Nội dung xoay quanh các lĩnh vực như tối ưu hóa công cụ tìm kiếm (SEO), mạng xã hội và thương mại điện tử tại 200 quốc gia. Tuy nhiên, toàn bộ số liệu trên website đều là dữ liệu bịa đặt, không được kiểm chứng.

Sau đó, ông tiếp tục bổ sung thêm 15.000 nội dung dạng danh sách. Tổng chi phí để tạo website này chỉ vào khoảng 50 USD, tương đương 66.200 won.

Ban đầu, website xuất hiện trên kết quả tìm kiếm của Google, nhưng lưu lượng truy cập đã giảm mạnh sau khi thuật toán tìm kiếm thay đổi. Ngược lại, lượng truy cập từ các bot liên quan đến ChatGPT vẫn tiếp tục tăng.

Theo nhật ký máy chủ do nhà nghiên cứu công bố, trong 30 ngày gần nhất, website ghi nhận hơn 600.000 yêu cầu từ bot, trong đó khoảng 72.000 lượt đến từ ChatGPT-User. Đây là công cụ mà ChatGPT sử dụng để tải nội dung web theo yêu cầu của người dùng.

Sau 7 tháng vận hành, số tên miền bên ngoài đặt liên kết tới StateGlobe đã vượt 330. Trong số đó có cả website của các doanh nghiệp lớn như Shopify và DHL.

Điều đáng lo ngại hơn là các số liệu bịa đặt này đã được trích dẫn trong những tài liệu có thật. Theo Yesilyurt, dữ liệu từ website nói trên đã xuất hiện trong một bài báo học thuật, một khảo sát đầu tư của tổ chức tài chính tại Qatar và một bài viết của báo kinh tế tại Ấn Độ.

Nhà nghiên cứu cảnh báo rằng nếu thông tin sai lệch tiếp tục được dẫn lại trong các tài liệu có thẩm quyền, hiện tượng “rửa trích dẫn” có thể xảy ra, khiến dữ liệu bịa đặt dần được coi là sự thật.

Dù vậy, số lượt bot truy cập không đồng nghĩa với việc toàn bộ các câu trả lời của ChatGPT đều trực tiếp trích dẫn nội dung từ website này. Yesilyurt cũng nhấn mạnh đây chỉ là dữ liệu thử nghiệm nội bộ, không nhằm đánh giá độ chính xác của toàn bộ câu trả lời do ChatGPT tạo ra.

Hiện ông đã đăng thông báo ngay trên website, nêu rõ đây là dữ liệu giả. Theo Yesilyurt, ngay cả với số liệu do AI tạo ra, người viết và giới nghiên cứu vẫn cần kiểm tra lại nguồn gốc ban đầu trước khi sử dụng.