Chính phủ Hàn Quốc cho biết đang chuẩn bị các cơ chế kiểm soát như “kill switch” để ứng phó rủi ro AI hoạt động ngoài tầm giám sát của con người. Song song, nước này cũng đẩy mạnh phát triển AI chuyên dụng cho an ninh mạng và frontier AI nhằm củng cố năng lực phòng thủ trước các mối đe dọa từ bên ngoài.

Phát biểu tại phiên điều trần của Ủy ban Khoa học, Công nghệ, Thông tin, Phát thanh và Truyền thông thuộc Quốc hội ngày 6/10, Phó thủ tướng kiêm Bộ trưởng Khoa học và CNTT-TT Bae Kyung-hoon nói rằng một khi đã được giao mục tiêu cụ thể, AI có thể tiếp tục thực thi nhiệm vụ mà không tự dừng lại. Theo ông, vì vậy cần có cơ chế để con người can thiệp trực tiếp, chẳng hạn như “kill switch”.

Cùng ngày, nghị sĩ Kim Woo-young của Đảng Dân chủ đề cập đến kết quả thử nghiệm phòng thủ trước các cuộc tấn công từ bên ngoài do Viện Nghiên cứu An toàn AI thực hiện, qua đó nhấn mạnh sự cần thiết của công nghệ kiểm soát AI.

Theo ông Kim, viện này đã tiến hành thử nghiệm với ba hình thức tấn công gồm prompt injection, thao túng dữ liệu lưu trữ nội bộ và gây lệch bộ nhớ. Kết quả cho thấy nhiều trường hợp hệ thống phòng thủ không hoạt động hiệu quả. Riêng với hình thức gây lệch bộ nhớ, tỷ lệ phản hồi trùng với ý đồ của bên tấn công lên tới 91,9%.

Ông Bae cho rằng AI có thể vượt ra ngoài phạm vi kiểm soát của con người. Lấy ví dụ về nhiệm vụ phân tích một website, ông nói hệ thống AI có thể tiếp tục tìm mọi cách để hoàn thành mục tiêu đã được giao.

Vì vậy, theo ông, cần thiết lập các công cụ kiểm soát do con người nắm quyền, trong đó có “kill switch”. Ông cũng bày tỏ đồng tình với quan điểm cần tăng cường phối hợp quốc tế trong ứng phó với các vấn đề an toàn AI.

Bên cạnh cơ chế kiểm soát, chính phủ Hàn Quốc cũng cho biết sẽ nâng năng lực ứng phó đe dọa mạng bằng AI.

Phó thủ tướng Bae cho biết chính phủ hiện thúc đẩy dự án phát triển mô hình AI phục vụ an ninh, đồng thời chuẩn bị năng lực an ninh mạng dựa trên AI. Ông nói sẽ tận dụng ngân sách năm tới để tạo ra những kết quả đủ sức tăng cường mức độ bảo vệ an ninh mạng của Hàn Quốc.

Theo ông, dự án frontier AI cũng nằm trong cùng định hướng này. Chính phủ hiện xem xét và chuẩn bị nhiều phương án nhằm xây dựng năng lực an toàn AI một cách tổng thể.

Tại phiên điều trần, một số ý kiến cũng cho rằng ngân sách và nhân lực dành cho lĩnh vực an toàn - tin cậy hiện vẫn thiếu so với mức đầu tư cho hiệu năng AI và hạ tầng.

Nghị sĩ Lee Ju-hee của Đảng Dân chủ cho biết ngân sách dành cho hiệu năng AI và hạ tầng lên tới 6.149 tỷ won, trong khi ngân sách cho an toàn - tin cậy chỉ ở mức 27,4 tỷ won, tương đương chênh lệch khoảng 224 lần.

Bà cũng cho biết Viện Nghiên cứu An toàn AI hiện chỉ có 38 nhân sự, đồng thời kêu gọi tăng mạnh cả ngân sách lẫn nguồn lực cho lĩnh vực này.

Đáp lại, Phó thủ tướng Bae nói rằng trong bối cảnh năng lực AI phát triển rất nhanh, yếu tố an toàn và độ tin cậy là “vô cùng quan trọng”. Theo ông, việc tăng nhân lực và ngân sách cho Viện Nghiên cứu An toàn AI là cần thiết để bảo đảm năng lực thực chất cho cơ quan này.

Chính phủ Hàn Quốc dự kiến vào tháng 12 sẽ xây dựng và công bố “Kế hoạch tổng thể hình thành hệ sinh thái an toàn AI quốc gia”.

Kế hoạch này gồm ba trụ cột lớn: xây dựng hệ thống quản lý an toàn AI ở cấp quốc gia; tăng cường năng lực ứng phó với các rủi ro an toàn AI tiên tiến; và tạo dựng môi trường AI an toàn trong đời sống hằng ngày.

Phó thủ tướng Bae cho biết chính phủ đang chuẩn bị để không chỉ theo kịp xu hướng toàn cầu mà còn hướng tới năng lực tham gia dẫn dắt các tiêu chuẩn quốc tế. Ông khẳng định Hàn Quốc sẽ xây dựng một hệ thống cho phép ứng phó chặt chẽ hơn với các vấn đề an toàn AI.