Quốc hội Hàn Quốc ngày 12/10 đồng loạt chất vấn trách nhiệm của các nền tảng trực tuyến sau khi hàng loạt vụ rao bán ma túy, môi giới mại dâm và phát tán nội dung phạm pháp vẫn xuất hiện trên môi trường số. Bên cạnh đó, những lỗ hổng trong cơ chế bảo vệ thanh thiếu niên trên các dịch vụ trò chuyện với nhân vật AI cũng làm dấy lên tranh luận về trách nhiệm của doanh nghiệp nền tảng và hiệu quả giám sát của cơ quan quản lý.

Đây là đợt thanh tra đầu tiên kể từ khi Ủy ban Truyền thông Hàn Quốc đi vào hoạt động. Tại phiên làm việc, Ủy ban Khoa học, Công nghệ thông tin, Phát thanh và Truyền thông của Quốc hội tập trung truy vấn cách Google, Telegram và X xử lý nội dung bất hợp pháp, đồng thời rà soát các biện pháp bảo vệ người dùng trên dịch vụ AI. Tiến độ điều tra vụ xử phạt liên quan chính sách thanh toán trong ứng dụng của Google, Apple và nghi vấn KT lừa dối người dùng cũng được đưa ra thảo luận.

◆ Kiểm soát nội dung bất hợp pháp còn chậm, khả năng can thiệp trong nước hạn chế

Nghị sĩ Cho Kyung-tae, thuộc đảng Quyền lực Nhân dân, công bố hình ảnh cho thấy khi tìm kiếm từ khóa “ice” trên X xuất hiện các bài đăng rao bán ma túy, trong khi từ khóa “hẹn hò có điều kiện” dẫn tới quảng cáo môi giới mại dâm. Theo ông, kết quả tìm kiếm ở thị trường nước ngoài khác với tại Hàn Quốc, cho thấy việc kiểm soát nội dung phạm pháp tại Hàn Quốc vẫn còn lỏng lẻo.

Shin Chang-seop, đại diện pháp nhân X tại Hàn Quốc, cho biết việc tìm kiếm và lọc nội dung do trụ sở chính phụ trách nên pháp nhân trong nước khó can thiệp trực tiếp. Ông thừa nhận phản ứng đối với nội dung phạm pháp tại Hàn Quốc chưa đủ nhanh và cho biết sẽ đề nghị các bộ phận liên quan cải thiện.

Mối quan hệ phối hợp giữa cơ quan quản lý và nền tảng cũng bị đặt dấu hỏi. Theo nghị sĩ Cho Kyung-tae, cơ quan thẩm định nội dung trong lĩnh vực phát thanh, truyền thông và viễn thông với phía X mới họp ba lần; tại cuộc họp gần nhất vào tháng 8 năm ngoái, hai bên thậm chí không thảo luận về các bài đăng liên quan đến ma túy.

Với Google, các nghị sĩ tập trung vào vấn đề rò rỉ thông tin của nạn nhân trong các vụ tội phạm tình dục số và quy trình gỡ bỏ nội dung bất hợp pháp.

Nghị sĩ Lee Ju-hee, thuộc đảng Dân chủ, cho biết đã ghi nhận ít nhất 147 trường hợp trong quá trình yêu cầu Google gỡ nội dung quay lén bất hợp pháp, khiến dữ liệu cá nhân của nạn nhân bị lộ trên các website bên ngoài. Bà đặt câu hỏi về trách nhiệm quản lý của doanh nghiệp, đồng thời nhắc lại rằng từ năm 2020 đã có yêu cầu xóa dữ liệu cá nhân liên quan nhưng vấn đề vẫn kéo dài.

Nghị sĩ Kim Woo-young, cũng thuộc đảng Dân chủ, nhận định việc gỡ bỏ nội dung quay lén bị chậm do thủ tục xác thực khi báo cáo còn phức tạp và hệ thống liên thông giữa các cơ quan liên quan chưa hoàn thiện. Yoon Koo, CEO Google Korea, đã chính thức xin lỗi về vụ rò rỉ thông tin nạn nhân và cho biết sẽ làm việc với trụ sở chính để xây dựng biện pháp ngăn tái diễn.

Quốc hội cũng rà soát năng lực xử lý nội dung bóc lột tình dục trẻ em, thanh thiếu niên của Telegram và mức độ hợp tác với cơ quan điều tra. Sandeep Yadav, Giám đốc vận hành kiêm phụ trách tuân thủ của Telegram, cho biết nền tảng này đang vận hành hệ thống phát hiện dựa trên AI và duy trì đầu mối phản hồi 24/7 dành riêng cho cơ quan chức năng Hàn Quốc, với thời gian phản hồi thông thường từ 2 đến 10 giờ.

Nghị sĩ Hwang Jung-a, thuộc đảng Dân chủ, cảnh báo nguy cơ trẻ vị thành niên tiếp xúc với các buổi phát trực tiếp trên YouTube mang tính kích thích, còn gọi là “Excel broadcast”. Bà cũng chỉ ra rằng các website chứa nội dung bất hợp pháp vẫn xuất hiện trong kết quả tìm kiếm của Google, đồng thời yêu cầu nền tảng tăng cường cơ chế tự kiểm soát.

Tác động xã hội của thuật toán nền tảng và cách ứng phó với thông tin sai lệch, thao túng dư luận cũng được đưa ra thảo luận. Nghị sĩ Choi Hyung-doo, thuộc đảng Quyền lực Nhân dân, dẫn một nghiên cứu về các tài khoản bị nghi thao túng dư luận và nhấn mạnh cần phân tích cả hành vi lẫn thuật toán khuếch đại xung đột, thay vì chỉ dừng ở kiểm soát nội dung.

Kim Jong-cheol, Chủ tịch Ủy ban Truyền thông Hàn Quốc, cho rằng xã hội cần thảo luận kỹ hơn về cách kết hợp giữa quy định đối với nội dung và quy định đối với hành vi nhằm đối phó hiệu quả với tình trạng thao túng dư luận.

◆ Chatbot AI bộc lộ lỗ hổng bảo vệ thanh thiếu niên

Đối với các dịch vụ trò chuyện với nhân vật AI, các nghị sĩ tập trung chất vấn hiệu quả của các biện pháp bảo vệ thanh thiếu niên và sự chậm trễ trong khâu thẩm định của cơ quan quản lý.

Nghị sĩ Lee Ju-hee dẫn cơ cấu người dùng của “Zeta” do Scatter Lab vận hành, trong đó nhóm tuổi teen và người dùng ở độ tuổi 20 chiếm tỷ trọng lớn. Theo bà, loại hình dịch vụ tạo quan hệ cảm xúc với AI này tiềm ẩn nguy cơ khiến người dùng bị cuốn quá sâu, vì vậy cần bổ sung cơ chế xác minh độ tuổi, giới hạn thời gian sử dụng và biện pháp ứng phó với các đoạn hội thoại rủi ro.

Nghị sĩ Kim Sun-min, thuộc đảng Tái thiết Hàn Quốc, công bố kết quả kiểm tra của văn phòng nghị sĩ cho thấy ngay cả khi bật “safe mode” để bảo vệ thanh thiếu niên, hệ thống vẫn tạo ra các đoạn hội thoại liên quan đến tự hại và tự sát. Nghị sĩ Hwang Jung-a cũng nêu vấn đề khi các cảnh bạo lực tình dục hoặc bóc lột tình dục nhắm vào nhân vật vị thành niên vẫn có thể được tạo ra mà không cần xác thực người trưởng thành.

Những hạn chế trong cơ chế thẩm định của nhà nước cũng bị phơi bày. Theo ông Kim Sun-min, trong 119 đơn khiếu nại liên quan đến chatbot AI dạng “character chat”, có 76 vụ vẫn đang được xem xét; riêng báo cáo về “Babychat” đã bị kéo dài tới 494 ngày. Ông cho rằng cần quy định thời hạn xử lý rõ ràng, từ khi tiếp nhận khiếu nại đến khi đưa ra quyết định thẩm định.

Hwang Yong-seok, Trưởng tiểu ban công nghệ mới thuộc Hiệp hội Chính sách tự quản Internet Hàn Quốc, cho biết cơ quan này đang xây dựng bộ hướng dẫn tự điều chỉnh cho chatbot AI dạng “character chat”. Tuy nhiên, do một số tiêu chí như độ tuổi được bảo vệ hay giới hạn thời gian sử dụng vẫn theo hướng để doanh nghiệp tự quyết, nhiều ý kiến cho rằng cần ban hành tiêu chuẩn an toàn cụ thể hơn.

Chủ tịch Kim Jong-cheol cũng thừa nhận tồn tại “điểm mù” thể chế trong bảo vệ thanh thiếu niên. Ông cho biết sẽ thúc đẩy trao đổi liên bộ và hỗ trợ các nỗ lực lập pháp nhằm sửa đổi Luật Mạng thông tin và truyền thông hoặc bổ sung Luật AI cơ bản.

Một số ý kiến tại Quốc hội cũng đề xuất siết chặt nghĩa vụ gắn nhãn ở khâu phân phối hình ảnh, video do AI tạo ra, đồng thời làm rõ hơn trách nhiệm quản trị của doanh nghiệp nền tảng.

◆ Dự kiến chốt xử phạt vụ thanh toán trong ứng dụng trong tháng này, điều tra KT đã khép lại

Tiến trình xử phạt của Ủy ban Truyền thông Hàn Quốc đối với các doanh nghiệp nền tảng và viễn thông cũng là một nội dung trọng tâm của phiên giám sát.

Theo cơ quan này, quyết định xử phạt đối với hành vi ép sử dụng hệ thống thanh toán trong ứng dụng của Google và Apple nhiều khả năng sẽ được chốt trong tháng 10. Vụ việc đã được thông báo trước về phương án xử phạt từ tháng 10/2023 nhưng đến nay vẫn chưa có quyết định cuối cùng sau gần 2 năm.

Chủ tịch Kim Jong-cheol cho biết cơ quan quản lý hiện ở giai đoạn rà soát cuối cùng sau khi tiếp nhận thêm ý kiến và kiểm tra chứng cứ, đồng thời nói rằng quyết định nhiều khả năng sẽ được thông qua trước khi tháng 10 kết thúc.

Trong khi đó, cuộc điều tra thực địa liên quan nghi vấn KT lừa dối người dùng trong vụ tấn công mạng đã khép lại.

Nghị sĩ Cho Kyung-tae đặt câu hỏi liệu KT có xâm phạm quyền lựa chọn của người dùng hay không, khi doanh nghiệp này được cho là đã nắm được dấu hiệu bị tấn công mạng nhưng không thông báo đầy đủ, trong lúc vẫn nhấn mạnh tính an toàn của dịch vụ.

Đáp lại, Chủ tịch Kim Jong-cheol cho biết hồi tháng 9, cơ quan này đã gửi phương án khắc phục cho KT và sẽ tiếp tục xem xét, biểu quyết theo đúng quy trình. Nếu xác nhận có vi phạm, cơ quan quản lý sẽ cân nhắc các biện pháp theo luật, bao gồm lệnh khắc phục và xử phạt bằng tiền.