Hàn Quốc đang chuẩn bị trình một dự luật yêu cầu các dịch vụ AI tạo sinh phải cung cấp công cụ giới hạn thời gian sử dụng đối với người chưa thành niên. Theo dự thảo, khi người dưới 19 tuổi hoặc cha mẹ, người đại diện hợp pháp có yêu cầu, doanh nghiệp phải cho phép thiết lập giới hạn về thời lượng và khung giờ sử dụng AI.

Ngày 1/10, văn phòng nghị sĩ Lee Ju-hee, thành viên Ủy ban Khoa học, Công nghệ thông tin, Phát thanh - Truyền hình và Truyền thông của Quốc hội Hàn Quốc thuộc đảng Dân chủ, cho biết nghị sĩ này dự kiến sớm nhất trong tuần này sẽ đứng tên trình dự thảo sửa đổi một phần Luật Thúc đẩy sử dụng mạng thông tin và bảo vệ thông tin, thường được gọi là Luật mạng thông tin.

Trọng tâm của dự luật là đặt ra nghĩa vụ bảo vệ nhằm ngăn tình trạng sử dụng quá mức đối với các nhà cung cấp dịch vụ AI tạo sinh dạng hội thoại dành cho người dưới 19 tuổi.

Theo đó, doanh nghiệp trước hết phải xác minh độ tuổi và danh tính người dùng. Dự thảo cũng yêu cầu các nền tảng hiển thị cảnh báo về việc sử dụng quá mức, đồng thời cung cấp thông tin về thời gian đã sử dụng.

Điểm đáng chú ý là khi người chưa thành niên hoặc người đại diện hợp pháp yêu cầu, doanh nghiệp phải cung cấp biện pháp kiểm soát cách sử dụng, thời lượng sử dụng và khung giờ truy cập dịch vụ.

Khác với cơ chế shutdown từng áp dụng với game, vốn chặn truy cập đồng loạt theo khung giờ cố định, đề xuất lần này cho phép thiết lập giới hạn theo yêu cầu của người dùng hoặc người đại diện hợp pháp. Cách thức áp dụng biện pháp bảo vệ, cùng phương thức xác minh người chưa thành niên và người đại diện hợp pháp, sẽ được quy định tại nghị định của Tổng thống.

Doanh nghiệp không tuân thủ các nghĩa vụ này có thể bị phạt hành chính tối đa 30 triệu won. Nếu được Quốc hội thông qua, luật sẽ có hiệu lực sau 6 tháng kể từ ngày công bố.

Phạm vi áp dụng là các dịch vụ thông tin - truyền thông dạng hội thoại dựa trên AI tạo sinh theo Luật AI cơ bản. Ngoài những chatbot phổ biến như ChatGPT, Gemini và Claude, các dịch vụ trò chuyện với nhân vật AI như Zeta và Crack cũng có thể nằm trong diện điều chỉnh.

Hiện Luật mạng thông tin của Hàn Quốc quy định rằng khi cung cấp dịch vụ hội thoại cho trẻ em dưới 14 tuổi, doanh nghiệp phải có biện pháp tránh cung cấp nội dung không phù hợp. So với quy định hiện hành, dự thảo mới mở rộng đối tượng bảo vệ lên người dưới 19 tuổi và bổ sung nghĩa vụ cụ thể để ngăn việc lạm dụng AI tạo sinh.

Trong bối cảnh thanh thiếu niên sử dụng AI tạo sinh ngày càng phổ biến, tranh luận về việc siết cơ chế bảo vệ cũng gia tăng. Theo khảo sát do Green Umbrella thực hiện vào tháng 3 với 3.300 trẻ em và thanh thiếu niên từ 14 tuổi trở lên trên toàn quốc, 94,4% cho biết từng sử dụng chatbot AI tạo sinh. Trong nhóm từng hỏi chatbot về các nội dung rủi ro, bất hợp pháp, bạo lực hoặc tình dục, hơn một nửa cho biết đã nhận được phản hồi liên quan.

Các doanh nghiệp AI cũng đang tăng cường tính năng bảo vệ thanh thiếu niên. OpenAI hiện vận hành cơ chế bảo vệ riêng cho người dùng vị thành niên, cho phép phụ huynh hoặc người giám hộ liên kết với tài khoản của thanh thiếu niên để giới hạn khung giờ sử dụng ChatGPT.

Trong phần nêu lý do đề xuất, nghị sĩ Lee Ju-hee cho biết sự phổ biến nhanh của các dịch vụ AI tạo sinh dạng hội thoại đang làm gia tăng lo ngại về việc người chưa thành niên sử dụng trong thời gian dài, dùng vào ban đêm hoặc phụ thuộc quá mức. Theo bà, dự luật nhằm cung cấp công cụ để người dùng tự quản lý thời lượng sử dụng, qua đó tạo ra môi trường sử dụng dịch vụ thông tin - truyền thông lành mạnh hơn cho người chưa thành niên.