Chính phủ Hàn Quốc cho biết có thể công bố ngay trong cuối tháng 5 một gói biện pháp ứng phó tổng thể với các rủi ro an ninh mạng do trí tuệ nhân tạo gây ra. Động thái này được đẩy nhanh sau khi một cuộc thử nghiệm cho thấy mô hình AI có thể tìm lỗ hổng và xâm nhập thành công vào dịch vụ của doanh nghiệp.

Phát biểu với báo chí ngày 8/5 sau cuộc họp chuyên gia về dự án an ninh mạng của các công ty AI toàn cầu, ông Choi Woo-hyuk, Cục trưởng phụ trách chính sách mạng và an toàn thông tin thuộc Bộ Khoa học và CNTT Hàn Quốc, cho biết cuộc họp được tổ chức kín vì có nội dung liên quan đến một vụ “tấn công thực tế bằng Opus 4.7 với sự đồng ý của doanh nghiệp và đã thành công”.

Theo ông Choi, một quy trình vốn đòi hỏi hacker chuyên nghiệp thao tác thủ công trong vài ngày đã được AI xác định chỉ trong hơn 10 phút. Bộ này dự kiến công bố định hướng ứng phó tổng thể trong giai đoạn từ cuối tháng 5 đến đầu tháng 6, đồng thời cập nhật kết quả làm việc liên quan đến khả năng tham gia Project Glasswing.

Lo ngại về việc AI có thể được sử dụng đồng thời cho cả phòng thủ lẫn tấn công gia tăng sau khi Anthropic ra mắt mô hình hiệu năng cao Mythos. Trước đó, ngày 14/4, Bộ Khoa học và CNTT Hàn Quốc đã đề nghị khoảng 30.000 doanh nghiệp trên cả nước siết chặt an ninh thông tin thông qua bộ phận CISO. Đến ngày 30/4, cơ quan này tiếp tục ban hành “hướng dẫn ứng phó tấn công mạng dựa trên AI cho doanh nghiệp và bộ quy tắc hành động dành cho CEO”.

Lỗ hổng được phát hiện trong quá trình mô phỏng xâm nhập có sự đồng ý của doanh nghiệp, thuộc chương trình kiểm tra nhanh của Cơ quan Internet và An ninh Hàn Quốc (KISA). Ông Park Yong-gyu, người đứng đầu bộ phận ứng phó đe dọa số của KISA, cho biết nhóm đã trình diễn quy trình tìm lỗ hổng trên một dịch vụ thực tế do doanh nghiệp vận hành, chứ không phải lỗ hổng của riêng một giải pháp bảo mật.

Theo ông Park, nhóm thử nghiệm đã dùng AI để thực hiện một chuỗi thao tác, từ vượt qua cơ chế xác thực trên website, chiếm thông tin tài khoản đến truy cập hệ thống. Tổng cộng 7 lỗ hổng đã được xác định, trong đó AI có thể tạo mật khẩu mới để giành quyền truy cập. Doanh nghiệp liên quan đã hoàn tất vá lỗi chỉ vài ngày sau khi phát hiện sự cố.

Cuộc thử nghiệm cũng cho thấy ngay cả khi có cơ chế guardrail, AI vẫn có thể bị vượt qua bằng prompting. Điều này đồng nghĩa không chỉ chuyên gia mà cả người dùng phổ thông cũng có thể lợi dụng AI để thực hiện hành vi tấn công mạng.

Hàn Quốc hiện cũng đang thúc đẩy việc tham gia Project Glasswing, chương trình do Anthropic vận hành dựa trên Mythos. Bộ Khoa học và CNTT Hàn Quốc đang liên hệ với Anthropic thông qua Viện Nghiên cứu An toàn AI trực thuộc bộ và KISA.

Ông Choi nhấn mạnh không nên nhìn việc tham gia chương trình này như một cuộc mặc cả dựa trên lợi thế. Theo ông, đây không phải vấn đề “trao đổi điều kiện” giữa các bên. Hiện Project Glasswing có 52 doanh nghiệp và tổ chức tham gia, song phần lớn danh sách chưa được công bố.

Ngày 11/5, Thứ trưởng Bộ Khoa học và CNTT Hàn Quốc Ryu Jae-myung dự kiến sẽ gặp đại diện Anthropic, nhưng nội dung trao đổi cụ thể chưa được tiết lộ. Bộ này cũng cho biết hiện chưa đến giai đoạn thảo luận các phương án tiếp theo trong trường hợp không thể tham gia Project Glasswing.

Đối với chương trình hợp tác an ninh mạng “Trusted Access for Cyber” (TAC) của OpenAI, giới chức Hàn Quốc cho biết đã xác nhận có doanh nghiệp và tổ chức trong nước tham gia. Ông Lee Dong-hyun, Trưởng phòng công nghiệp an toàn thông tin thuộc Bộ Khoa học và CNTT Hàn Quốc, nói cơ quan này khó công bố số lượng cụ thể cũng như chưa thể xác nhận có cơ quan nhà nước nào tham gia hay không.

Cuộc họp ngày 8/5 có sự tham dự của SKT, Upstage, Motif Technologies, các nhà phát triển mô hình nền tảng độc lập, doanh nghiệp AI lớn, giới học thuật chuyên về an ninh AI, đại diện ngành an toàn thông tin và các CISO của doanh nghiệp lớn. Cuộc họp do Phó Thủ tướng kiêm Bộ trưởng Khoa học và CNTT Hàn Quốc Bae Kyung-hoon chủ trì.

Tại đây, các chuyên gia đánh giá một trong những rủi ro lớn nhất là việc phụ thuộc vào hệ thống legacy, tức các hệ thống cũ, khiến quá trình vá lỗ hổng khó triển khai ngay lập tức. Các ví dụ được đưa ra để tham khảo gồm hệ thống cảnh báo an ninh mạng tùy biến theo tài sản CNTT của Trung tâm An ninh mạng Quốc gia Anh (NCSC) và cơ chế của châu Âu yêu cầu khắc phục lỗ hổng rủi ro cao trong thời hạn bắt buộc.

Một số ý kiến cho rằng việc chuyển sang mô hình dịch vụ đám mây dạng SaaS có thể rút ngắn thời gian vá lỗi. Bên cạnh đó, cần xây dựng khuôn khổ thể chế cho hoạt động mô phỏng tấn công của hacker mũ trắng. Các bên cũng đồng thuận về nhu cầu phát triển mô hình chuyên biệt cho an ninh AI, nhưng hướng đi cụ thể, như sử dụng mô hình nền tảng hay nâng cấp mô hình tự phát triển, hiện vẫn chưa được chốt.