Chính phủ Hàn Quốc đang đồng thời thúc đẩy sửa luật, xây dựng luật mới và tăng cường rà soát dịch vụ nhằm bảo vệ thanh thiếu niên trước rủi ro từ chatbot AI. Trọng tâm chính sách là ngăn nội dung độc hại, kiểm soát các dịch vụ AI có thể gây lệ thuộc quá mức và bổ sung cơ chế bảo vệ người dùng.

Theo các cơ quan liên quan ngày 27/10, Ủy ban Truyền thông Hàn Quốc (KCC) đang chuẩn bị dự thảo đạo luật tạm gọi là Luật bảo vệ người dùng dịch vụ AI. Đây là luật chuyên biệt nhằm phòng ngừa thiệt hại phát sinh trong quá trình sử dụng dịch vụ AI, đồng thời thiết lập cơ chế bảo vệ quyền lợi và xử lý tranh chấp cho người dùng.

Nội dung dự thảo từng được nêu trong báo cáo công tác của chính phủ công bố vào tháng 12 năm ngoái. Dự luật dự kiến quy định nghĩa vụ của doanh nghiệp AI trong việc ngăn chặn tạo lập và phát tán thông tin trái pháp luật; áp dụng biện pháp hạn chế nội dung có hại và hành vi sử dụng quá mức đối với người dưới 19 tuổi; xây dựng quy định riêng cho các dịch vụ AI mô phỏng quan hệ tình cảm; đồng thời bổ sung cơ chế bảo vệ quyền lợi người dùng và hòa giải tranh chấp.

Từ tháng 5, KCC đã khởi động giai đoạn 2 của Hội đồng tham vấn công - tư về bảo vệ người dùng dịch vụ AI để bàn phương án hoàn thiện thể chế. Đến tháng 8, cơ quan này tiếp tục thảo luận các biện pháp an toàn kỹ thuật nhằm ứng phó với thông tin trái pháp luật, nội dung độc hại trên dịch vụ AI, cũng như cơ chế tự điều chỉnh từ phía doanh nghiệp.

Đại diện KCC cho biết dự thảo luật hiện được xây dựng trên cơ sở bản nháp đã công bố năm ngoái, chưa có thay đổi lớn. Theo cơ quan này, trong phạm vi có thể, dự luật sẽ phản ánh các biện pháp mà doanh nghiệp AI cần thực hiện để bảo vệ trẻ em và thanh thiếu niên, cùng ý kiến từ giới công nghiệp, học thuật và pháp lý.

KCC cũng lưu ý tiến độ lập pháp có thể thay đổi tùy theo hình thức thúc đẩy dự luật, chẳng hạn được trình bởi nghị sĩ hay theo các phương án khác, cũng như theo tình hình thực tế.

Song song với quá trình làm luật, Ủy ban Thẩm định Truyền thông Hàn Quốc sẽ bắt đầu rà soát toàn diện các dịch vụ chat AI từ tháng 11. Việc thẩm định sẽ dựa trên các luật và quy định hiện hành, gồm Luật Bảo vệ thanh thiếu niên, Luật Mạng thông tin - truyền thông và Quy định thẩm định thông tin - truyền thông.

Trước đợt rà soát này, ngày 21, ủy ban này đã họp với 15 doanh nghiệp cung cấp dịch vụ chat AI trong và ngoài nước. Tại cuộc họp, các bên đã chia sẻ những trường hợp dịch vụ tạo ra nhân vật mang tính gợi dục hoặc đối thoại có nội dung tình dục. Cơ quan quản lý đề nghị doanh nghiệp tăng cường chức năng chặn thông tin trái pháp luật và độc hại ở cả đầu vào lẫn đầu ra, đồng thời hạn chế thanh thiếu niên tiếp cận nội dung chỉ dành cho người trưởng thành.

Ủy ban Thẩm định Truyền thông Hàn Quốc cho biết phạm vi rà soát có thể bao gồm cả thiết lập nhân vật và nội dung do AI tạo ra, như hình ảnh hoặc văn bản được cung cấp trong các dịch vụ chat AI. Nếu kết quả thẩm định xác định một dịch vụ là “ấn phẩm truyền thông có hại cho thanh thiếu niên”, doanh nghiệp liên quan sẽ phải thực hiện các nghĩa vụ theo luật, gồm gắn nhãn cảnh báo, xác minh độ tuổi và danh tính, cũng như hạn chế thanh thiếu niên truy cập.

Trong trường hợp phát hiện thông tin trái pháp luật như nội dung khiêu dâm hoặc tài liệu bóc lột tình dục trẻ em và thanh thiếu niên, cơ quan này cũng có thể yêu cầu khắc phục như gỡ bỏ nội dung, độc lập với quyết định phân loại là “có hại cho thanh thiếu niên”.

Đại diện ủy ban cho biết việc thẩm định sẽ được tiến hành trên cơ sở xem xét tổng hợp mức độ gợi dục của thiết lập nhân vật, nội dung do AI tạo ra và cả cấu trúc vận hành của dịch vụ. Theo người này, ngoài việc rà soát nội dung, vấn đề thanh thiếu niên sử dụng quá mức hoặc lệ thuộc vào dịch vụ AI cũng cần được giải quyết bằng các chính sách riêng và việc hoàn thiện luật, thể chế liên quan.

Ở một hướng khác, Bộ Khoa học và ICT Hàn Quốc (MSIT) - cơ quan chủ trì Luật Cơ bản về AI - cũng đang hỗ trợ quá trình sửa đổi luật nhằm bổ sung các biện pháp bảo vệ phù hợp hơn.

Tháng 3 năm nay, MSIT thành lập Nhóm nghiên cứu cải thiện thể chế Luật Cơ bản về AI với sự tham gia của các chuyên gia từ doanh nghiệp, giới học thuật và xã hội dân sự. Nhóm này đã duy trì thảo luận đến nay, và bộ dự kiến công bố định hướng sửa đổi cụ thể thông qua một phiên điều trần vào cuối năm.

Đại diện MSIT cho biết gần như toàn bộ các vấn đề liên quan đến Luật Cơ bản về AI đã được đưa ra thảo luận. Tuy nhiên, hiện cơ quan này chưa thể xác nhận cụ thể liệu nội dung bảo vệ thanh thiếu niên đã được phản ánh đến mức nào. Theo MSIT, do dự thảo còn đang được thảo luận giữa nhiều bên, từ xã hội dân sự, giới học thuật đến doanh nghiệp, nên chưa thể kết luận nội dung nào sẽ được giữ lại trong bản cuối cùng.

Tại Quốc hội Hàn Quốc, nhiều dự luật cũng đã được trình nhằm tăng nghĩa vụ bảo vệ thanh thiếu niên đối với doanh nghiệp AI. Với Luật Mạng thông tin - truyền thông, có dự luật do nghị sĩ Lee Ju-hee thuộc đảng Dân chủ trình hồi tháng 3, trong đó đề xuất cấm tạo và cung cấp thông tin gây hại cho thanh thiếu niên trong dịch vụ AI, đồng thời tăng biện pháp bảo vệ đối với các dịch vụ AI mô phỏng quan hệ tình cảm. Một dự luật khác do nghị sĩ Cho In-cheol, cũng thuộc đảng Dân chủ, đề xuất yêu cầu xác minh độ tuổi và phải có sự đồng ý của người giám hộ.

Trong tháng này, nghị sĩ Lee Ju-hee tiếp tục trình thêm một sửa đổi, yêu cầu chatbot AI phải có chức năng thông báo và giới hạn thời gian sử dụng.

Đối với Luật Cơ bản về AI, nghị sĩ Jeong Chun-saeng thuộc đảng Tái thiết Hàn Quốc đã trình dự luật vào tháng 1, đề xuất bắt buộc áp dụng các biện pháp bảo vệ kỹ thuật như ngăn ngừa tự sát, tự gây hại và chặn nội dung độc hại đối với các dịch vụ AI hướng đến thanh thiếu niên. Đến tháng 6, nghị sĩ Cho In-cheol cũng trình thêm dự luật đưa trẻ em và thanh thiếu niên vào nhóm dễ bị tổn thương trước AI, qua đó tăng cường biện pháp bảo vệ ở cấp quốc gia. Hiện cả hai dự luật đang được Ủy ban Khoa học, ICT, Phát thanh và Truyền thông của Quốc hội xem xét.

Tuy nhiên, trong bối cảnh Hàn Quốc đồng thời thúc đẩy sửa Luật Cơ bản về AI, sửa Luật Mạng thông tin - truyền thông và xây dựng một đạo luật riêng về bảo vệ người dùng AI, đã xuất hiện ý kiến cho rằng cần tiếp tục thảo luận kỹ hơn về phạm vi điều chỉnh cũng như phương án bảo vệ quyền lợi của trẻ em và thanh thiếu niên.

Giáo sư Choi Kyung-jin, Khoa Luật Đại học Gachon, cho rằng khi xây dựng chính sách bảo vệ thanh thiếu niên, cần ưu tiên xem xét lợi ích tốt nhất của trẻ em và thanh thiếu niên, thay vì mặc nhiên lựa chọn cách hạn chế sử dụng một cách vô điều kiện. Theo ông, việc ngăn chặn thông tin có hại vốn đã được xử lý trong khuôn khổ pháp luật hiện hành, song hệ thống thể chế vẫn cần được hoàn thiện thêm để phản ánh đặc tính của AI, vốn có thể tạo ra và phát tán các nội dung này nhanh hơn.