Một khảo sát mới cho thấy nội dung do AI tạo ra đang thâm nhập nhanh vào mảng xuất bản sách tôn giáo trên Amazon. Theo kết quả do Originality.ai công bố, được Decrypt dẫn lại ngày 23/8, khoảng 63% đầu sách mới trong nhóm này có dấu hiệu được tạo bằng AI.

Cụ thể, Originality.ai đã phân tích 2.034 đầu sách thuộc lĩnh vực tôn giáo - tín ngưỡng được niêm yết trên Amazon và xác định 1.272 cuốn có khả năng cao do AI viết.

Khảo sát được thực hiện trên 14 danh mục tôn giáo. Trong đó, nhóm có tỷ lệ cao nhất là sách về phép thuật, bao gồm Wicca, phù thủy và các truyền thống ngoại giáo, với 78% đầu sách bị công cụ đánh dấu. Tiếp theo là Hindu giáo với 76% và Đạo giáo với 74%.

Các nhóm Sikh giáo, Phật giáo, Hồi giáo, Công giáo, Tin Lành, Chính thống giáo và Do Thái giáo nằm ở mức trung bình. Ở chiều ngược lại, Mormon giáo ghi nhận tỷ lệ 42%, vô thần 40% và Satan giáo 22%.

Nhóm nghiên cứu lưu ý quy mô mẫu giữa các danh mục chênh lệch đáng kể, vì vậy không thể so sánh trực tiếp một cách đơn giản. Originality.ai cũng nhấn mạnh đây chỉ là đánh giá mang tính xác suất, không phải kết luận chắc chắn một cuốn sách được viết bởi AI.

Tác giả báo cáo Michael Freyman cho biết công cụ không khẳng định tuyệt đối một văn bản do AI tạo ra, mà chỉ đưa ra mức độ khả năng dựa trên mô hình xác suất.

Trong quá trình phân tích, Originality.ai xem xét cả phần mô tả sách, giới thiệu tác giả và đoạn trích nội dung. Những văn bản có điểm phát hiện từ 50 trở lên được xếp vào nhóm có khả năng cao do AI viết. Freyman cho biết nhóm nghiên cứu cũng đã rà soát riêng các đầu sách bị công cụ gắn cờ và hiện có thể nhận diện sự khác biệt giữa nội dung do AI tạo ra và nội dung do con người viết.

Riêng danh mục sách về phép thuật còn làm dấy lên lo ngại về độ tin cậy của thông tin. Nhóm nghiên cứu cho rằng 53% các tuyên bố có thể kiểm chứng trong nhóm sách này có khả năng là sai.

Các đầu sách nói trên chủ yếu xoay quanh tinh thể chữa lành, liệu pháp thảo dược và việc thanh lọc “năng lượng tiêu cực”. Theo Freyman, nhóm độc giả chính có thể là những người tìm cách tự chữa lành, cải thiện sức khỏe tinh thần hoặc tìm các giải pháp “thải độc” khỏi hóa chất hay thuốc men thông dụng. Ông cho rằng những cuốn sách Wicca theo hướng này có thể đáp ứng nhu cầu đó mà không phải trải qua quy trình thẩm định theo chuẩn mực khoa học.

Tuy nhiên, Decrypt cũng lưu ý công nghệ phát hiện nội dung AI vẫn có nhiều hạn chế và có thể cho kết quả sai lệch hoặc không đồng nhất giữa các công cụ. Tháng 10/2024, bốn công cụ phát hiện AI khi kiểm tra Tuyên ngôn Độc lập của Mỹ đã cho ra các kết quả trái ngược nhau.

Đến tháng 3 năm nay, Tòa án Tối cao Colombia bác bỏ một văn bản pháp lý dựa trên kết quả phát hiện “tài liệu do AI tạo ra”. Nhưng khi chính bản án của tòa được đưa vào cùng công cụ này, hệ thống lại đánh giá xác suất do AI tạo ra lên tới 93%.

Phản ứng của Amazon cũng trở thành một điểm gây tranh cãi. Freyman cho rằng Amazon nhận thức được việc nội dung do AI viết đang phổ biến trên nền tảng, nhưng hiện chủ yếu dựa vào cơ chế tác giả tự công bố. Dù vậy, Originality.ai cho biết họ chưa chia sẻ kết quả khảo sát với Amazon và cũng không thể xác minh có bao nhiêu tác giả thực sự khai báo thông tin này.

Bên cạnh đó, câu chuyện sách in bị sử dụng làm dữ liệu huấn luyện AI cũng quay trở lại tâm điểm. Theo Decrypt, các nhà phát triển AI thời gian qua bị chỉ trích vì mua hàng triệu cuốn sách, tháo gáy rồi quét từng trang để xây dựng bộ dữ liệu huấn luyện.

Trong tháng 8, một cuộc điều tra tiếp tục cho thấy nhiều sách hiếm đã được chuyển tới một cơ sở của Amazon ở Las Vegas để phục vụ việc quét dữ liệu. Amazon sau đó xác nhận công ty mua sách thông qua các kênh phân phối thương mại cho hoạt động này.

Khảo sát của Originality.ai cho thấy AI đang len sâu hơn vào mạng lưới xuất bản và phân phối sách. Với những lĩnh vực vốn có bất cân xứng thông tin lớn như tôn giáo - tín ngưỡng, tranh luận không chỉ dừng ở câu hỏi nội dung có phải do AI tạo ra hay không, mà còn mở rộng sang độ chính xác của thông tin và tiêu chuẩn công bố trên các nền tảng bán sách.