Trước làn sóng nội dung chất lượng thấp do trí tuệ nhân tạo tạo ra tràn ngập Internet, nhiều nền tảng công nghệ đang đẩy mạnh rà soát, giảm hiển thị và gỡ bỏ loại nội dung này trên quy mô lớn.

Theo New York Times ngày 17/8 (giờ địa phương), từ các nền tảng mạng xã hội, dịch vụ nội dung số đến những kho dữ liệu trực tuyến, nhiều doanh nghiệp đang tăng tốc xử lý nội dung rác do AI tạo ra, thường được gọi là “AI slop”.

Spotify cho biết đã xóa 75 triệu mục nội dung, bao gồm các bản tải lên hàng loạt, nhạc trùng lặp và nhiều dạng spam khác. Đây là con số rất lớn nếu so với tổng kho nội dung của nền tảng.

LinkedIn cũng xếp nội dung chất lượng thấp, dễ tạo bằng AI vào nhóm vấn đề ưu tiên xử lý và đã bổ sung nút để người dùng báo cáo loại nội dung này từ tháng 7.

Pinterest đã cập nhật hệ thống từ tháng 10 năm ngoái, cho phép người dùng giới hạn lượng bài đăng do AI tạo ra mà họ muốn thấy. Trong khi đó, TikTok đang thử nghiệm tại Mỹ tính năng giúp người dùng tăng hoặc giảm tần suất xuất hiện của nội dung AI trên bảng tin.

TikTok cho biết đã tự động gắn nhãn hơn 3 tỷ video do AI tạo ra, đồng thời xóa hơn 377.000 video vi phạm chính sách liên quan đến AI trong quý I năm nay.

Với YouTube, các nhà nghiên cứu của Google cho biết đã loại bỏ 130.000 kênh đăng nội dung chất lượng thấp trong vòng 6 tháng.

“Slop” hiện được xem là từ khóa gắn liền với thời kỳ AI bùng nổ nhanh chóng. Nhà xuất bản từ điển Merriam-Webster từng chọn “slop” là “từ của năm” 2025.

Deezer, dịch vụ nghe nhạc trực tuyến của Pháp, cho biết vào mùa xuân năm nay, gần một nửa số bản nhạc được đăng lên hệ thống mỗi ngày là do AI tạo ra và phần lớn trong số đó chưa từng được người dùng nghe. New York Times cũng cho hay hơn một phần ba nội dung được tải lên Apple Music là do AI tạo ra.

Aiden Walker, nhà nghiên cứu đồng thời là nhà sáng tạo nội dung về xu hướng trực tuyến tại Quỹ Carnegie vì Hòa bình Quốc tế, nhận định: “Người dùng ngày càng mệt mỏi với tác động của AI đối với môi trường, sức khỏe tinh thần và áp lực việc làm. AI slop cũng là một vấn đề đang ngày càng nghiêm trọng”.

Theo ông, khi sự khó chịu của người dùng với AI slop gia tăng, dư luận đã thay đổi rõ rệt và buộc các doanh nghiệp công nghệ phải hành động.

Các công ty công nghệ hiện tập trung hạn chế hoặc loại bỏ những nội dung câu kéo tương tác, chất lượng thấp, dễ tạo và dễ lan truyền nhưng nhanh chóng bị lãng quên, như một phần trong nỗ lực làm sạch nền tảng.

Trước đó, không ít doanh nghiệp công nghệ từng tích cực thúc đẩy các công cụ hỗ trợ người dùng tạo nội dung bằng AI.

Theo thử nghiệm do Kapwing, dịch vụ chỉnh sửa video trực tuyến ứng dụng AI, thực hiện năm ngoái, hơn 20% video ngắn đầu tiên mà YouTube đề xuất cho người dùng mới là nội dung chất lượng thấp do AI tạo ra.

Kapwing ước tính một trong những kênh AI slop phổ biến nhất trên YouTube từng thu về 4,25 triệu USD mỗi năm. Tuy nhiên, theo New York Times, kênh này sau đó đã bị đình chỉ tham gia chương trình kiếm tiền của YouTube. Dữ liệu Kapwing công bố trong tháng 6 năm nay cũng cho thấy 6/10 video được đăng lên TikTok là AI slop.

Meta cũng từng vấp phải phản ứng mạnh trong tháng 7 sau khi ra mắt một công cụ tạo ảnh có cơ chế tự động đưa các tài khoản Instagram công khai vào nguồn dữ liệu tham chiếu cho AI. Công ty sau đó phải rút lại tính năng này chỉ sau 3 ngày.

Paul Schoblin, chuyên gia nghiên cứu AI tại Đại học Ohio, nhận xét: “AI slop là con dao hai lưỡi. Nhiều nền tảng được hưởng lợi khi mức độ tương tác tăng nhờ loại nội dung này, nhưng đến một thời điểm, nó lại trở thành gánh nặng. Khi nội dung rác tích tụ quá nhiều, người dùng sẽ khó tìm được những gì họ thực sự muốn xem”.

Tuy nhiên, việc rà soát từng nội dung để quyết định giữ lại hay gỡ bỏ không hề đơn giản. Vì vậy, các công ty công nghệ cũng đang tích cực sử dụng chính AI để nhận diện AI slop.

Nhóm nghiên cứu của Google cho biết thay vì đánh giá từng video trên YouTube, họ phân tích nhiều mẫu hình như tốc độ đăng tải hay định dạng lặp lại của nội dung để phát hiện dấu hiệu lạm dụng có tổ chức. Từ đó, nhóm này đã phát hiện một mạng lưới gồm 50.000 tài khoản và tiến hành xóa bỏ.

Dù vậy, theo New York Times, một số chuyên gia truyền thông số lo ngại cách làm này có thể bị mở rộng quá mức, khiến cả những nhà sáng tạo thông thường nhưng có tần suất đăng nội dung cao cũng bị ảnh hưởng.