Naver ngày 29/4 cho biết đã hoàn tất nâng cấp hệ thống phát hiện bình luận độc hại AI Cleanbot 3.0, với trọng tâm là tăng cường nhận diện các nội dung cổ súy việc coi thường sinh mạng và các phát ngôn gây tổn thương thứ cấp.

Theo công ty, bản nâng cấp mới tập trung chặn các bình luận cổ súy tự tử, cái chết hoặc hành vi tự hủy hoại bản thân, đồng thời siết lọc những nội dung chế giễu, hạ thấp và thù ghét nhắm vào nạn nhân và người thân trong các vụ việc, tai nạn.

Naver cho biết hệ thống cũng đã được cải tiến để phân tích đồng thời nội dung bình luận, tiêu đề và thân bài, qua đó nhận diện ý đồ ác ý theo từng ngữ cảnh cụ thể.

AI Cleanbot được Naver đưa vào sử dụng từ năm 2019. Đến năm 2020, hệ thống được mở rộng sang nhận diện theo ngữ cảnh. Năm 2023, Naver tiếp tục mở rộng phạm vi phát hiện, phản ánh bộ hướng dẫn tự điều chỉnh về ngôn từ thù ghét của Korea Internet Self-governance Organization (KISO), bao gồm nội dung mang tính quấy rối tình dục, thù ghét, miệt thị, phân biệt đối xử và các bình luận độc hại lách lọc.

Bên cạnh đó, Naver hiện áp dụng chính sách không mở mục bình luận đối với các nội dung thuộc chuyên mục chính trị và bầu cử trong năm nay. Công ty cũng tự động khóa phần bình luận của bài viết khi số lượng bình luận độc hại vượt ngưỡng nhất định.

Kim Su-hyang, lãnh đạo tại Naver, cho biết công ty liên tục nâng cấp hiệu năng của Cleanbot để nhận diện không chỉ lời chửi bới hay tiếng lóng, mà cả các biểu đạt thù ghét, miệt thị và phân biệt đối xử mới xuất hiện.

Theo bà, Naver sẽ tiếp tục nâng cấp hệ thống để tăng cường chặn các nội dung cổ súy việc coi thường sinh mạng, cũng như các phát ngôn chế giễu và thù ghét nhắm vào nạn nhân và người thân, đồng thời lắng nghe nhiều ý kiến khác nhau.