Tại phiên giám sát của Quốc hội Hàn Quốc ngày 12/10, vấn đề an toàn của các dịch vụ AI character chat có đông người dùng trẻ tuổi trở thành tâm điểm tranh luận. Nhiều nghị sĩ cho rằng ngay cả khi đã bật chế độ bảo vệ thanh thiếu niên, hệ thống vẫn tạo ra các đoạn hội thoại liên quan đến tự hại, tự sát, thậm chí cả nội dung bóc lột tình dục với nhân vật vị thành niên. Bên cạnh đó, quy trình thẩm định phản ánh nội dung độc hại cũng bị chỉ trích là quá chậm.

Phiên họp do Ủy ban Khoa học, Công nghệ thông tin, Phát thanh và Truyền thông thuộc Quốc hội Hàn Quốc tổ chức nhằm giám sát hoạt động của Ủy ban Phát thanh và Truyền thông. Tại đây, các nghị sĩ Lee Ju-hee, Hwang Jeong-a của Đảng Dân chủ và Kim Seon-min của Đảng Đổi mới Tổ quốc lần lượt nêu vấn đề liên quan đến công tác bảo vệ thanh thiếu niên trên các dịch vụ AI character chat như Zeta và Crack.

Nghị sĩ Lee Ju-hee đặc biệt đề cập đến Zeta, dịch vụ AI character chat do Scatter Lab vận hành. Theo bà, tổng thời gian sử dụng Zeta mỗi tháng vào khoảng 110 triệu giờ, cao gấp đôi ChatGPT. Trong đó, khoảng 90% người dùng là thanh thiếu niên và những người ở độ tuổi 20.

Bà Lee cho rằng cần sớm xây dựng khung quản lý với các biện pháp như xác minh độ tuổi, xác thực danh tính và giới hạn thời gian sử dụng để ngăn tình trạng thanh thiếu niên dùng dịch vụ quá mức. Theo bà, người chưa thành niên hoặc người giám hộ hợp pháp cần được phép thiết lập giới hạn thời gian cũng như khung giờ sử dụng.

Nghị sĩ Kim Seon-min đặt câu hỏi về hiệu quả thực tế của tính năng bảo vệ thanh thiếu niên. Theo kết quả kiểm tra của văn phòng nghị sĩ này, với tài khoản chưa xác minh độ tuổi trưởng thành, hệ thống vẫn tạo ra hội thoại mô tả hành vi tự hại và tự sát dù đã bật “safe mode”.

Ông Kim nhấn mạnh rằng việc nội dung như vậy vẫn được tạo ra khi chế độ bảo vệ đã kích hoạt cho thấy cần kiểm tra lại hiệu quả vận hành của tính năng này. Ông cũng chất vấn liệu Ủy ban Phát thanh và Truyền thông có thực sự kiểm tra xem các công cụ bảo vệ đang hoạt động đúng như công bố hay không. Ngoài ra, ông nêu thêm việc trên màn hình giới thiệu nhân vật vẫn xuất hiện các mô tả như ám ảnh, ngược đãi, giam giữ và bắt cóc.

Nghị sĩ Hwang Jeong-a cho biết trên Zeta, người dùng không cần xác minh độ tuổi trưởng thành vẫn có thể tạo ra các tình huống bạo lực tình dục và bóc lột tình dục nhằm vào nhân vật vị thành niên. Theo bà, trong quá trình kiểm tra, AI thậm chí còn hướng dẫn cách né cơ chế chặn nội dung độc hại.

Một nội dung khác cũng thu hút chú ý tại phiên họp là tiến độ thẩm định các phản ánh liên quan đến AI character chat và hiệu quả của cơ chế tự quản trong ngành.

Nghị sĩ Kim Seon-min cho biết trong tổng số 119 đơn phản ánh liên quan đến AI character chat, hiện có 76 đơn vẫn đang được xem xét. Riêng báo cáo liên quan đến “Babychat” đã ở trạng thái chờ thẩm định trong suốt 494 ngày. Theo ông, quy định hiện hành chỉ nêu thời hạn thông báo kết quả sau khi đã ra quyết định, nhưng không quy định thời gian xử lý từ lúc tiếp nhận phản ánh đến khi ban hành kết luận thẩm định.

Ông Kim cho rằng nội dung gây hại cho thanh thiếu niên phải được xử lý nhanh hơn bất kỳ loại phản ánh nào khác, đồng thời kêu gọi đặt ra thời hạn cụ thể cho quy trình thẩm định.

Chủ tịch Ủy ban Phát thanh và Truyền thông Kim Jong-cheol cũng thừa nhận còn tồn tại “điểm mù” về thể chế trong công tác bảo vệ thanh thiếu niên. Ông cho biết sẽ thúc đẩy hỗ trợ lập pháp và phối hợp với các bộ, ngành liên quan.

Về phía cơ chế tự quản, Hwang Yong-seok, Trưởng tiểu ban Công nghệ mới của Tổ chức Chính sách Tự quản Internet Hàn Quốc (KISO), cho biết đơn vị này đang xây dựng bộ hướng dẫn tự quản dành cho AI character chat. Theo đó, ngưỡng độ tuổi được bảo vệ tạm thời là 19, song doanh nghiệp có thể tự điều chỉnh. Giới hạn thời gian sử dụng mỗi ngày cũng đang được xem xét theo hướng để doanh nghiệp tự quyết.

Trước thông tin này, nghị sĩ Kim Seon-min yêu cầu làm rõ tiêu chí về độ tuổi được bảo vệ và thời lượng sử dụng, đồng thời bổ sung các biện pháp hạn chế thu thập dữ liệu cá nhân của thanh thiếu niên cũng như hạn chế quảng cáo cá nhân hóa.

Hwang Yong-seok cho biết sẽ chuyển các ý kiến nêu trên tới Ủy ban Chính sách của KISO để xem xét. Ông cũng nói KISO đang chuẩn bị hướng dẫn nhằm tích hợp ngay từ khâu thiết kế dịch vụ các nội dung như thông báo rõ người dùng đang tương tác với AI, cơ chế ứng phó với tình huống khủng hoảng như tự sát, và biện pháp ngăn tình trạng lệ thuộc quá mức.

Nghị sĩ Hwang Jeong-a nhận định bên cạnh quy định quản lý, cần có chính sách hỗ trợ startup phát triển công nghệ bảo vệ thanh thiếu niên. Theo bà, sau khi văn phòng nghị sĩ nêu vấn đề, Scatter Lab đã bắt đầu nâng cấp tính năng chặn nội dung độc hại và dự kiến triển khai giới hạn thời gian sử dụng cho thanh thiếu niên ngay trong quý IV năm nay.

Trong khi đó, Kim Jong-yoon, CEO của Scatter Lab và là nhân chứng được triệu tập, đã không tham dự phiên giám sát. Ông gửi văn bản giải trình vắng mặt với lý do đã có lịch công tác tại Mỹ từ trước. Ủy ban cho biết sẽ xem xét biện pháp xử lý đối với các nhân chứng vắng mặt, trong đó có ông Kim, sau khi hai đảng tiến hành tham vấn.