Ủy ban Thẩm định Truyền thông Phát thanh, Truyền hình và Viễn thông Hàn Quốc ngày 21/10 cho biết đã yêu cầu các doanh nghiệp cung cấp dịch vụ chatbot AI tăng cường biện pháp bảo vệ trẻ vị thành niên, sau khi ghi nhận nhiều nội dung mang tính khiêu gợi và các đoạn hội thoại mô tả hành vi tình dục trên một số nền tảng.

Cùng ngày, cơ quan này đã tổ chức cuộc họp với 15 doanh nghiệp vận hành dịch vụ chatbot AI tại Tòa nhà Phát thanh ở Mok-dong, Seoul, để thảo luận về thực trạng nội dung khiêu gợi và phương án bảo vệ trẻ vị thành niên.

Theo kết quả giám sát trọng điểm, một số dịch vụ đã tạo ra hình ảnh, hồ sơ nhân vật và bối cảnh có yếu tố gợi dục, trong đó có các mô tả nhấn mạnh bộ phận cơ thể hoặc gợi liên tưởng đến hành vi tình dục.

Ủy ban cũng xác nhận đã xuất hiện trường hợp hệ thống tạo phản hồi mô tả hành vi tình dục khi người dùng tương tác với nhân vật AI.

Theo đánh giá của cơ quan này, mức độ độc hại của chatbot AI có thể khác nhau tùy vào mô hình AI mà doanh nghiệp sử dụng, cũng như cách thiết lập nhân vật và kịch bản hội thoại.

Vì vậy, Ủy ban yêu cầu các doanh nghiệp nâng cấp chức năng phát hiện và chặn và lọc thông tin bất hợp pháp, độc hại ở cả đầu vào lẫn đầu ra của chatbot AI, đồng thời cải thiện cơ chế tiếp nhận phản ánh từ người dùng.

Cơ quan này cũng đề nghị phân tách rõ nội dung dành cho trẻ vị thành niên và nội dung dành cho người trưởng thành, đồng thời gắn nhãn cảnh báo đối với nội dung có hại cho trẻ vị thành niên.

Ngoài ra, doanh nghiệp được yêu cầu tiến hành kiểm tra an toàn định kỳ nhằm bảo đảm các biện pháp hạn chế truy cập của trẻ vị thành niên thông qua xác thực danh tính không bị vô hiệu hóa bởi các hình thức lách kiểm soát.

Đại diện các doanh nghiệp tham dự cho biết đồng tình với sự cần thiết của các biện pháp bảo vệ trẻ vị thành niên, đồng thời chia sẻ những khó khăn trong quá trình vận hành và trao đổi về các giải pháp có tính khả thi.

Ủy ban cho biết sẽ tổng hợp ý kiến từ doanh nghiệp, rà soát mức độ độc hại của từng dịch vụ và tình trạng áp dụng biện pháp hạn chế truy cập đối với trẻ vị thành niên, trước khi triển khai đợt thẩm định chính thức dự kiến bắt đầu trong tháng 11.