Ngày 25/6, Ủy ban Truyền thông Phát thanh và Truyền thông, Bộ Nội vụ và An toàn cùng Bộ Bình đẳng giới và Gia đình Hàn Quốc đã ký biên bản ghi nhớ về hợp tác ứng dụng trí tuệ nhân tạo nhằm ứng phó với tội phạm tình dục deepfake. Lễ ký diễn ra tại trụ sở Chính phủ ở Seoul.

Tham dự lễ ký có Ko Min-su, ủy viên thường trực Ủy ban Truyền thông Phát thanh và Truyền thông; Kim Min-jae, thứ trưởng Bộ Nội vụ và An toàn; và Jeong Gu-chang, thứ trưởng Bộ Bình đẳng giới và Gia đình.

Theo thỏa thuận, ba cơ quan sẽ cùng chia sẻ mô hình AI phát hiện và phân tích deepfake do Bộ Nội vụ và An toàn phát triển, phối hợp với Viện Khoa học Pháp y Quốc gia. Mô hình này sẽ được áp dụng vào quy trình phát hiện, gỡ bỏ và chặn nội dung vi phạm, đồng thời phục vụ công tác bảo vệ nạn nhân.

Ba bên thống nhất hợp tác trên ba mảng chính, gồm chia sẻ và khai thác mô hình AI phát hiện, phân tích deepfake; liên kết quy trình phát hiện, gỡ bỏ và chặn nội dung xâm hại; phối hợp các biện pháp bảo mật và an toàn thông tin nhằm ngăn ngừa thiệt hại thứ cấp.

Trong đó, Ủy ban Truyền thông Phát thanh và Truyền thông sẽ tăng cường xử lý tình trạng phát tán trực tuyến các nội dung bị nghi liên quan đến tội phạm tình dục deepfake, đồng thời mở rộng cơ chế phối hợp gỡ bỏ và chặn với các doanh nghiệp nền tảng. Bộ Nội vụ và An toàn sẽ tiếp tục nâng cấp mô hình phát hiện, phân tích theo sự phát triển của công nghệ AI và chia sẻ với các cơ quan liên quan. Bộ Bình đẳng giới và Gia đình sẽ kết hợp mô hình deepfake đang được khu vực tư nhân sử dụng với mô hình AI mới để phục vụ phân tích, gỡ bỏ video xâm hại, đồng thời xây dựng tiêu chuẩn nghiệp vụ về bảo vệ nạn nhân và phòng ngừa thiệt hại thứ cấp.

Các cơ quan cho biết trong thời gian tới, khi tiếp nhận video xâm hại hoặc nội dung nghi vấn, hệ thống sẽ trước tiên tiến hành phát hiện và phân tích bằng mô hình AI. Kết quả sau đó sẽ được kết nối với quy trình gỡ bỏ, chặn nội dung và hỗ trợ nạn nhân để xử lý. Các bên cũng sẽ siết chặt tiêu chuẩn quản lý an toàn thông tin, trong đó có việc hạn chế sao chép, chia sẻ và lưu trữ không cần thiết trong quá trình xử lý video xâm hại.

Bộ trưởng Nội vụ và An toàn Yoon Ho-jung nhấn mạnh tội phạm tình dục deepfake có tốc độ lan truyền rất nhanh, đồng thời tiềm ẩn nguy cơ gây thiệt hại thứ cấp lớn do bị tái phát tán và biến thể. Theo ông, vì vậy cần có cơ chế phối hợp liên cơ quan kịp thời. Ông cho biết sẽ chia sẻ mô hình AI phát hiện, phân tích deepfake với các cơ quan liên quan và xây dựng cơ chế hợp tác dựa trên nền tảng công nghệ.