Các đề xuất lập pháp nhằm tăng bảo vệ trẻ em và thanh thiếu niên khi sử dụng chatbot AI tạo sinh đang được đẩy nhanh tại Hàn Quốc. Nội dung dự thảo gồm xác minh độ tuổi, xác nhận sự chấp thuận của người giám hộ hợp pháp và giới hạn thời gian sử dụng dịch vụ.

Theo thông tin từ Quốc hội Hàn Quốc ngày 11/9, tại phiên họp toàn thể hôm 8/9, Ủy ban Khoa học, Công nghệ, Thông tin, Phát thanh và Truyền thông đã chuyển dự luật sửa đổi một phần Luật thúc đẩy sử dụng mạng thông tin - truyền thông và bảo vệ thông tin sang tiểu ban để thẩm tra.

Dự luật do nghị sĩ Cho In-cheol của Đảng Dân chủ đề xuất. Văn bản mở rộng phạm vi điều chỉnh, không chỉ với các dịch vụ hội thoại trực tuyến mà còn bao gồm cả dịch vụ dựa trên AI tạo sinh, đồng thời quy định rõ trách nhiệm của doanh nghiệp trong việc bảo vệ trẻ em và thanh thiếu niên.

Theo quy định hiện hành, doanh nghiệp chỉ được yêu cầu nỗ lực để không cung cấp nội dung không phù hợp khi cung cấp dịch vụ hội thoại cho trẻ em dưới 14 tuổi.

Trong khi đó, dự thảo mới mở rộng đối tượng được bảo vệ ra toàn bộ trẻ em và thanh thiếu niên. Doanh nghiệp sẽ phải xác minh độ tuổi và danh tính người dùng; nếu người dùng là trẻ em hoặc thanh thiếu niên, nền tảng phải kiểm tra sự chấp thuận của người đại diện hợp pháp.

Dự luật cũng quy định khi trẻ em, thanh thiếu niên hoặc người đại diện hợp pháp yêu cầu, doanh nghiệp phải giới hạn hình thức và thời gian sử dụng dịch vụ. Nếu có yêu cầu từ người dùng, doanh nghiệp còn phải cung cấp thời điểm và nội dung các cuộc trò chuyện mà người đó đã tham gia.

Một nội dung đáng chú ý khác là cơ chế báo cáo rủi ro. Dự thảo cho phép báo cáo trong trường hợp trẻ em hoặc thanh thiếu niên đã gặp, hoặc có nguy cơ đối mặt với các rủi ro như tự sát, tự gây hại, lạm dụng hoặc sử dụng sai chất ma túy, bóc lột tình dục hay xâm hại tình dục. Khi tiếp nhận báo cáo, doanh nghiệp phải triển khai biện pháp ứng phó, trong đó có việc loại bỏ yếu tố rủi ro.

Bối cảnh của dự luật xuất phát từ lo ngại rằng chatbot AI không còn chỉ là công cụ cung cấp thông tin, mà ngày càng đóng vai trò như bạn bè, người yêu hoặc kênh tư vấn đối với thanh thiếu niên. Vì vậy, các quy định bảo vệ hiện hành được cho là không còn đủ để xử lý các rủi ro mới phát sinh.

Trong phần giải trình lý do đề xuất luật, nghị sĩ Cho In-cheol cho biết đã xuất hiện các trường hợp trẻ em và thanh thiếu niên hình thành sự phụ thuộc về cảm xúc với chatbot AI. Ông cũng cảnh báo về nguy cơ AI đưa ra gợi ý liên quan đến tự sát, tự gây hại hoặc dẫn dắt người dùng vào các cuộc trò chuyện tình dục không phù hợp.

Theo nghị sĩ này, các quy định mang tính tuyên bố trong luật hiện hành chưa đủ để ứng phó với những rủi ro như xúi giục tự sát, tự gây hại, lạm dụng chất gây nghiện, bóc lột tình dục hoặc phụ thuộc quá mức vào AI. Ông cho rằng cần thiết lập cơ chế bảo vệ thực chất, đặt sự an toàn và giai đoạn phát triển của trẻ em, thanh thiếu niên làm ưu tiên ngay từ khâu thiết kế dịch vụ.

Văn phòng của nghị sĩ Cho In-cheol cho biết sẽ thúc đẩy thông qua dự luật trong kỳ họp thường kỳ lần này. Đại diện văn phòng cho biết hai đảng lớn đã hình thành đồng thuận về sự cần thiết phải bảo vệ người dùng AI là thanh thiếu niên, và các bên sẽ tiếp tục thảo luận tại tiểu ban trong quá trình lập pháp.

Ủy ban Khoa học, Công nghệ, Thông tin, Phát thanh và Truyền thông cũng bày tỏ đồng tình với mục tiêu của dự luật và sự cần thiết của các biện pháp bảo vệ cụ thể.

Một quan chức của ủy ban này cho biết trong ý kiến rà soát của chính phủ gửi Quốc hội sau khi dự luật được trình lên, cơ quan chức năng đã nêu rõ lập trường “rất đồng cảm” với mục tiêu lập pháp, đồng thời đánh giá những nghĩa vụ cụ thể mà dự luật đặt ra là cần thiết và có hiệu quả.

Vị này nói thêm dự luật được xây dựng có tính đến cả các dịch vụ AI character chat, do đó cả chatbot thiên về quan hệ cảm xúc lẫn chatbot hội thoại thông thường đều thuộc phạm vi áp dụng.

Nếu được thông qua, các dịch vụ AI character chat nội địa như Zeta và Crack sẽ chịu sự điều chỉnh trực tiếp. Theo Mobile Index, tính theo lượng người dùng hoạt động hàng tháng (MAU) của tháng trước, tỷ lệ người dùng ở độ tuổi thanh thiếu niên trở xuống tại Zeta và Crack - hai dịch vụ AI character chat đứng đầu thị trường Hàn Quốc - lần lượt là 58,3% và 47,8%.

Hiện các doanh nghiệp liên quan đã vận hành một số biện pháp bảo vệ riêng như xác thực danh tính đối với nội dung người lớn và chính sách bảo vệ thanh thiếu niên. Tuy nhiên, nếu dự luật được thông qua, những nội dung trước đây chủ yếu dựa trên cam kết tự nguyện của doanh nghiệp - như xác minh độ tuổi và danh tính, sự chấp thuận của người đại diện hợp pháp, giới hạn thời gian sử dụng, cơ chế báo cáo và ứng phó rủi ro - sẽ trở thành nghĩa vụ pháp lý.

Theo dự thảo, luật sẽ có hiệu lực sau 6 tháng kể từ ngày được công bố.