Trước làn sóng ứng dụng trí tuệ nhân tạo (AI) ngày càng mạnh, giới chuyên gia cho rằng rủi ro an ninh mạng đang tăng nhanh và hệ thống bảo mật cần chuyển sang mô hình phòng thủ tự động, có khả năng tự chủ cao hơn. Khi AI trở thành một bề mặt tấn công mới, công nghệ phòng vệ và cơ chế quản trị cũng phải được thiết kế lại cho phù hợp.

Phát biểu tại lễ kỷ niệm Ngày An toàn thông tin lần thứ 15 tổ chức ngày 8/7 tại khách sạn Shilla Seoul, giáo sư Lee Sang-geun của Đại học Korea nhận định đến năm 2028, các cuộc tấn công mạng có thể trở nên thường xuyên như hoạt động thường nhật và diễn ra gần như liên tục. Theo ông, mức độ tự động hóa trong phòng thủ sẽ là yếu tố quyết định khoảng cách năng lực ứng phó giữa doanh nghiệp và cơ quan, tổ chức.

AI trở thành bề mặt tấn công mới, hệ thống phòng thủ phải đổi cách vận hành

Theo ông Lee, môi trường đe dọa mạng hiện nay giống một “cơn bão hoàn hảo”. Sự lan rộng của xu hướng phát triển phần mềm dựa trên AI tạo sinh, như vibe coding, đang làm khối lượng mã nguồn tăng mạnh, kéo theo nguy cơ phát sinh lỗi phần mềm và lỗ hổng bảo mật. Ông cũng cho rằng các vụ tấn công nhằm vào lỗ hổng trước khi được công bố chính thức đang gia tăng, trong khi AI tạo sinh có thể bị lợi dụng để phục vụ các hoạt động tấn công mạng.

Ông nhấn mạnh AI không chỉ là công cụ hỗ trợ mà bản thân cũng đã trở thành đối tượng cần được bảo vệ. Những rủi ro như prompt injection, đầu độc dữ liệu huấn luyện, sao chép hoặc trích xuất mô hình, cùng các mối đe dọa liên quan đến chuỗi cung ứng và tính toàn vẹn, đang nổi lên như các điểm tấn công mới.

Ở góc nhìn của bên tấn công, AI có thể tự động hóa gần như toàn bộ chuỗi hành động, từ do thám, phân tích lỗ hổng, tạo mã độc hoặc mã tấn công cho tới triển khai thực tế. Điều này khiến các hệ thống phòng thủ hiện có bộc lộ ngày càng rõ giới hạn.

Về hướng ứng phó, ông Lee đề xuất sử dụng AI để tự động tạo bản vá lỗ hổng và tự động triển khai bản vá, đồng thời xây dựng hệ thống giám sát mạng thông minh và thiết lập khung quản trị AI. Ông cho rằng các tổ chức cần tự xây dựng năng lực nội bộ để phát triển cơ chế tạo bản vá tự động bằng frontier model hoặc agentic system, qua đó giảm phụ thuộc vào một mô hình cụ thể và hạn chế gánh nặng chi phí token.

Theo ông, cả bảo mật đầu cuối lẫn giám sát mạng đều cần chuyển sang cách tiếp cận “AI chống AI”. Khi bên tấn công đã tự động hóa quy trình, bên phòng thủ cũng phải tự động hóa toàn bộ vòng phản ứng, từ phát hiện, ứng phó đến vá lỗ hổng.

“Điều quan trọng là phải đổi mới quy trình trước khi sự cố bảo mật xảy ra”, ông Lee nói, đồng thời kêu gọi phát triển công nghệ phòng thủ AI độc lập, hệ thống phòng thủ mạng và đội ngũ nhân lực nòng cốt cho an ninh AI.

Tại các phiên thảo luận của sự kiện, tự động hóa phòng thủ dựa trên AI cũng là một chủ đề trung tâm. Chủ tịch Kim Ho-won của Hiệp hội An toàn thông tin Hàn Quốc cho biết các mô hình ngôn ngữ lớn phổ dụng cấp frontier, nếu được huấn luyện với lượng lớn mã nguồn và tri thức hệ thống, có thể tạo ra và kiểm chứng các chuỗi tấn công nhiều bước, từ đó hỗ trợ phát hiện điểm yếu bảo mật.

Ông Kim cho rằng thay vì chỉ phụ thuộc vào một mô hình siêu lớn, doanh nghiệp có thể xây dựng hệ thống phát hiện tối ưu hơn thông qua cấu trúc điều phối tác tử, cho phép nhiều AI khác nhau phối hợp và được kiểm soát trong cùng một cơ chế vận hành.

AI cần “dây an toàn” trước khi bị lạm dụng

Trong phần tham luận của mình, Tổng giám đốc Yoon Du-sik của Erowoon&Company ví an toàn AI với dây an toàn trên ôtô. Theo ông, cần sớm thiết lập các tiêu chuẩn và cơ chế phù hợp để AI được sử dụng đúng cách và trong giới hạn an toàn.

Ông Yoon cho rằng AI có thể trở thành mục tiêu hoặc công cụ của nhiều hình thức tấn công, từ prompt injection, lạm dụng tác tử tự trị đến deepfake. “Khi các công cụ mã nguồn mở kết hợp với công cụ lập trình dùng AI, môi trường đã hình thành nơi ngay cả người không phải hacker chuyên nghiệp cũng có thể thử tiến hành tấn công nhằm vào doanh nghiệp và cá nhân”, ông nói.

Ông đề xuất năm yếu tố cốt lõi của bảo mật AI gồm khả năng quan sát, năng lực phòng thủ, cơ chế cô lập, trách nhiệm và niềm tin. Trong quá trình sử dụng AI, tổ chức cần theo dõi được dữ liệu đầu vào và đầu ra; áp dụng guardrail cho cả input lẫn output; phòng thủ trước jailbreak và injection; xác thực đầu ra; kiểm soát hành vi của tác tử; đồng thời xác minh danh tính của tác tử. Ông cũng nhấn mạnh sự cần thiết của hệ thống ghi log các hành vi do AI thực hiện để phục vụ việc truy vết và phân tích nguyên nhân sự cố.

Sự kiện cũng giới thiệu các mô hình phòng thủ trước rủi ro AI từ nước ngoài, với sự tham gia của Cơ quan An ninh mạng và Cơ sở hạ tầng Mỹ (CISA), Viện Nghiên cứu An toàn AI của Anh và Google. Quyền giám đốc CISA Nick Anderson cho biết nhiều nhóm đe dọa đang nhắm vào hạ tầng trọng yếu quốc gia, đồng thời kêu gọi tăng cường quản lý để AI không trở thành công cụ khuếch đại năng lực tấn công của các lực lượng thù địch.

Ông nhấn mạnh hợp tác quốc tế là điều kiện then chốt để đổi mới AI đi cùng với bảo mật. Theo ông, thông qua hợp tác với các đồng minh như Hàn Quốc, các bên có thể chia sẻ kinh nghiệm đổi mới và xây dựng cơ chế ứng phó chung một cách nhất quán. Ông cũng đề cập trách nhiệm của cộng đồng quốc tế trong việc định hướng các công nghệ mới như AI theo hướng bảo vệ con người và nâng cao năng lực xã hội.

Hàn Quốc tổ chức khu trưng bày AI riêng, vinh danh 35 cá nhân

Sự kiện năm nay mang chủ đề “Kỷ nguyên AI an toàn, Hàn Quốc đi trước”, do Bộ Khoa học và ICT, Cơ quan Tình báo Quốc gia và Bộ Nội vụ và An toàn đồng tổ chức cùng Cơ quan Internet và An ninh Hàn Quốc (KISA), Hiệp hội Công nghiệp An toàn thông tin Hàn Quốc và các đơn vị liên quan. Đây cũng là lần đầu tiên ba nhà mạng lớn của Hàn Quốc cùng tham gia sự kiện. SK Telecom và KT xuất hiện tại khu trưng bày AI riêng để giới thiệu với khách tham quan.

Lễ kỷ niệm bao gồm hoạt động trao bằng khen cho tổng cộng 35 cá nhân có đóng góp trong lĩnh vực an toàn thông tin, công bố thông điệp kỳ vọng về kỷ nguyên AI an toàn từ đoàn đại diện người dân, cùng triển lãm các sản phẩm an toàn thông tin tiêu biểu ứng dụng AI.

Ở hạng mục vinh danh, CEO Ji Dong-beom của Genians nhận Huân chương Công trạng Quốc gia hạng Seokryu. Giáo sư Kim Yong-dae của KAIST nhận Bằng khen Quốc gia, còn giáo sư Ha Jae-cheol của Đại học Hoseo nhận Huân chương Geunjeong.

Thứ trưởng thứ hai Bộ Khoa học và ICT Ryu Je-myeong cho biết Hàn Quốc sẽ tích cực ứng dụng AI vào truy vết và phát hiện mối đe dọa mạng, qua đó tăng cường năng lực phòng ngừa sớm và ứng phó nhanh. Ông kỳ vọng sự kiện sẽ góp phần củng cố niềm tin số của Hàn Quốc.

Trong thông điệp chúc mừng được đọc thay, Tổng thống Lee Jae-myung nhấn mạnh rằng khi AI lan rộng nhanh trên toàn xã hội, tầm quan trọng của an toàn thông tin đang lớn hơn bao giờ hết. Ông cho biết chính phủ sẽ mở rộng cơ chế phối hợp liên bộ để ứng phó nhanh với các mối đe dọa mới, đồng thời thúc đẩy công nghệ bảo mật dựa trên AI và hệ sinh thái công nghiệp liên quan.