Quốc hội Hàn Quốc đang đẩy nhanh các nỗ lực sửa luật để siết quản lý watermark đối với nội dung do trí tuệ nhân tạo tạo ra, trong bối cảnh khung pháp lý hiện hành mới dừng ở nghĩa vụ gắn watermark của doanh nghiệp AI, nhưng chưa có chế tài rõ ràng đối với hành vi xóa, sửa hoặc làm giả watermark trong quá trình phát tán.

Theo giới chính trị Hàn Quốc, nghị sĩ Kim Dae-sik của đảng People Power Party, thành viên Ủy ban Giáo dục thuộc Quốc hội, gần đây đã trình dự thảo sửa đổi Luật Cơ bản về phát triển AI và xây dựng nền tảng tin cậy. Dự thảo quy định rõ doanh nghiệp AI phải gắn watermark trực tiếp vào đầu ra bằng mã, chữ hoặc ký hiệu để người dùng có thể nhận biết. Đồng thời, dự luật bổ sung chế tài hình sự, với mức phạt tiền tối đa 20 triệu won đối với hành vi xóa, làm giả hoặc chỉnh sửa watermark.

Ở một hướng khác, nghị sĩ Cho In-cheol của đảng Dân chủ, thành viên Ủy ban Khoa học, Công nghệ, Thông tin và Truyền thông thuộc Quốc hội, đầu năm nay cũng đề xuất sửa đổi Luật Thúc đẩy sử dụng mạng thông tin - truyền thông và bảo vệ thông tin. Trọng tâm của dự luật là cấm hành vi xóa, làm giả hoặc chỉnh sửa watermark khi phân phối nội dung do AI tạo ra.

Dự thảo này không chỉ áp đặt nghĩa vụ đối với doanh nghiệp cung cấp công nghệ AI mà còn mở rộng sang các nền tảng đạt quy mô nhất định. Các nền tảng này sẽ phải hỗ trợ watermark và triển khai biện pháp kỹ thuật để ngăn việc xóa, làm giả hoặc chỉnh sửa watermark. Mức phạt hành chính tối đa được đề xuất là 10 triệu won.

Động thái sửa luật xuất phát từ giới hạn của khung quản lý hiện nay. Luật AI hiện yêu cầu doanh nghiệp AI gắn watermark, nhưng việc kiểm soát ở khâu phát tán chủ yếu vẫn dựa vào hướng dẫn hành chính riêng, thay vì quy định có tính ràng buộc pháp lý.

Ngày 22/1, cùng thời điểm Luật AI có hiệu lực, Bộ Khoa học và Công nghệ Thông tin và Truyền thông Hàn Quốc công bố “Hướng dẫn bảo đảm tính minh bạch của AI”. Với nội dung deepfake, văn bản này chỉ công nhận watermark hiển thị, có thể nhận biết bằng mắt thường. Riêng với video deepfake, hướng dẫn yêu cầu phải hiển thị logo trong toàn bộ phần nội dung có sự can thiệp của AI, đồng thời nêu rõ phương thức thực hiện.

Tuy nhiên, đây vẫn chỉ là hướng dẫn hành chính, không có hiệu lực ràng buộc như luật. Doanh nghiệp AI có thể bị xử phạt hành chính nếu không thực hiện nghĩa vụ gắn watermark, nhưng hiện chưa có cơ sở pháp lý để xử lý trường hợp watermark bị xóa, bị làm giả hoặc bị chỉnh sửa trong quá trình nội dung được phát tán.

Khoảng trống này cũng bộc lộ rõ từ phía người dùng. Trên mạng xã hội và YouTube đã xuất hiện nhiều nội dung chia sẻ “cách xóa watermark”. Một số hướng dẫn thậm chí chỉ cách sử dụng các công cụ mặc định trên Windows hoặc macOS để loại bỏ dấu nhận diện, làm dấy lên lo ngại watermark có thể bị vô hiệu hóa quá dễ dàng và bị lạm dụng.

Áp lực siết tiêu chuẩn đối với nội dung AI, đặc biệt là deepfake có nguy cơ bị sử dụng vào mục đích phạm tội, cũng ngày càng gia tăng. Theo Cơ quan Điều tra Quốc gia thuộc Cơ quan Cảnh sát Hàn Quốc, từ tháng 11/2024 đến tháng 10/2025, nước này ghi nhận 1.827 vụ phạm tội tình dục liên quan đến deepfake và bắt giữ 1.438 người. So với giai đoạn từ tháng 11/2023 đến tháng 10/2024, số vụ bị phát hiện tăng 50,1%, còn số người bị bắt tăng 47,8%.

Ngoài ra, theo tài liệu mà văn phòng nghị sĩ Cho In-cheol nhận được từ cơ quan thẩm định truyền thông số, số vụ thẩm định video deepfake liên quan tội phạm tình dục đã tăng vọt từ 1.913 vụ năm 2021 lên 23.107 vụ năm 2024.

Không chỉ Hàn Quốc, nhiều nền kinh tế lớn cũng đang mở rộng nghĩa vụ gắn watermark với nội dung AI. Bang California của Mỹ yêu cầu nhãn nhận diện nội dung AI phải bảo đảm tính “vĩnh viễn” và “không thể đảo ngược”, đồng thời buộc nhà cung cấp phải cung cấp miễn phí công cụ phát hiện để người dùng phổ thông cũng có thể tự kiểm tra. Trung Quốc đưa cả khâu tạo nội dung lẫn quá trình phân phối vào diện quản lý, đồng thời quy trách nhiệm cho các nền tảng. Liên minh châu Âu cũng lấy mô hình watermark có độ bền cao làm tiêu chuẩn, kết hợp cả dấu hiển thị và dấu không hiển thị.

Theo giới chuyên gia, khoảng trống pháp lý về watermark hiện nằm ở cả trách nhiệm của nền tảng lẫn trách nhiệm của người dùng. Lee Seong-yeop, giáo sư Trường Sau đại học Quản trị Công nghệ thuộc Đại học Korea, nhận định luật hiện hành mới chỉ áp nghĩa vụ watermark đối với doanh nghiệp phát triển và kinh doanh AI, trong khi các nền tảng như YouTube chưa nằm trong diện điều chỉnh. Ông đề xuất bổ sung khái niệm “bên phân phối” vào luật.

Vị chuyên gia này cũng cho biết hiện chưa có cơ sở để xử lý người dùng phổ thông nếu xóa hoặc phá watermark trên nội dung deepfake. Theo ông, Hàn Quốc cần xem xét thêm các biện pháp lập pháp riêng, trong đó có phương án đưa quy định về nội dung do AI tạo vào các điều khoản bảo vệ người dùng trong khuôn khổ cơ quan thẩm định truyền thông số.