Bộ Khoa học và CNTT Hàn Quốc bắt đầu vận hành cơ chế giám sát thường trực, cho phép người dân trực tiếp phát hiện và báo cáo các lỗi cũng như rủi ro của trí tuệ nhân tạo (AI).

Ngày 12/11, bộ này phối hợp với Viện Nghiên cứu An toàn Trí tuệ Nhân tạo tổ chức lễ ra mắt nhóm giám sát cộng đồng mang tên “AI Safety Keeper” tại khách sạn Glad ở Yeouido, Seoul.

“AI Safety Keeper” là lực lượng giám sát do người dân trực tiếp tham gia, với nhiệm vụ phát hiện và báo cáo các trường hợp lỗi, rủi ro liên quan đến AI tạo sinh. Qua hai đợt tuyển chọn công khai diễn ra trong tháng 8 và 9, bộ này đã chọn 80 thành viên từ tổng số 138 người đăng ký.

Nhóm này sẽ triển khai hoạt động giám sát an toàn AI đến tháng 8 năm sau.

Bốn nhóm nội dung giám sát trọng tâm gồm: hiện tượng “ảo giác”, khi AI tạo ra thông tin hoặc số liệu sai lệch nhưng có vẻ đáng tin; thiên lệch và phân biệt đối xử với một nhóm cụ thể; các lỗ hổng bảo mật như vượt qua cơ chế an toàn hoặc làm lộ dữ liệu cá nhân; và lỗi kỹ thuật như không phản hồi hoặc lặp lại cùng một câu trả lời.

Những trường hợp do nhóm giám sát ghi nhận sẽ được thẩm định theo các tiêu chí như độ chính xác, mức độ rủi ro, khả năng tái hiện và khả năng ứng dụng.

Các trường hợp được xác nhận sau quá trình thẩm định sẽ được sử dụng làm dữ liệu cơ sở cho hoạt động đánh giá an toàn AI và nghiên cứu rủi ro. Bộ này cũng có kế hoạch chia sẻ các trường hợp đó với những doanh nghiệp liên quan.

Trước đó, Bộ Khoa học và CNTT Hàn Quốc cùng Viện Nghiên cứu An toàn Trí tuệ Nhân tạo đã triển khai trong hơn 30 ngày một chương trình thử thách kiểm chứng lỗi thông tin do AI tạo ra, bắt đầu từ tháng 12 năm ngoái. Trong tổng số 625 báo cáo tiếp nhận, có 464 trường hợp được xác nhận là lỗi hợp lệ.

Theo bộ, việc thành lập nhóm giám sát lần này nhằm mở rộng mô hình chiến dịch ngắn hạn thành một cơ chế kiểm tra thường trực.

Ông Eom Yeol, Vụ trưởng Chính sách AI của bộ, cho biết AI đã trở thành công cụ được sử dụng hằng ngày ở nhiều nhóm tuổi khác nhau, vì vậy cần xây dựng một môi trường sử dụng an toàn với sự tham gia của toàn xã hội. Theo ông, mỗi lỗi được phát hiện từ góc nhìn của người dân sẽ là nền tảng để phát triển các hệ thống AI an toàn hơn.