S2W cho rằng khi AI ngày càng được triển khai sâu vào hoạt động doanh nghiệp, chiến lược bảo mật cũng cần thay đổi. Thay vì chỉ tập trung vào ngăn chặn, doanh nghiệp cần chuyển trọng tâm sang phát hiện theo thời gian thực, ứng phó nhanh và quản trị lỗ hổng liên tục.

Thông điệp này được S2W, công ty chuyên về phân tích dữ liệu lớn và trí tuệ nhân tạo, đưa ra tại hội thảo khách hàng tổ chức ngày 15/4 tại trụ sở ở Pangyo, Seongnam, với chủ đề “Chiến lược bảo mật mới trong thời đại AI: Giải pháp ứng phó qua các tình huống thực tế”.

Tại sự kiện, Kim Yang Jong-heon, Phó phụ trách mảng Offensive của S2W, đã trình bày các dạng tấn công đặc thù trong môi trường AI như Input Manipulation, Integrity Compromise, Agent Interaction và Synthetic Identity, đồng thời chia sẻ những điểm rút ra từ các tình huống thực tế. Theo ông, nếu bảo mật truyền thống chủ yếu tập trung vào phòng thủ trước lỗi hệ thống, thì bảo mật AI phải hướng tới việc ngăn ngừa các lỗ hổng trong logic nhận thức.

Ông cũng dẫn ra các bài CTF (Capture The Flag) và War Game dựa trên kịch bản thực tế như “Lakera Gandalf” và “Prompt Airlines” để minh họa những kỹ thuật tấn công AI phổ biến, bao gồm tấn công bằng prompt và các dạng lỗ hổng liên quan. S2W đồng thời công bố kết quả phân tích về mức độ tác động của các sự cố bảo mật chuyên biệt đối với AI và LLM tới hoạt động kinh doanh.

Theo Kim Yang Jong-heon, trong thời AI, doanh nghiệp cần tuân thủ một số nguyên tắc bảo mật cơ bản như không áp dụng AI ở những khu vực mà rủi ro lớn hơn lợi ích, tối thiểu hóa dữ liệu bằng cách không đưa thông tin nhạy cảm vào ngữ cảnh xử lý, đồng thời áp dụng nguyên tắc đặc quyền tối thiểu và cô lập, tức tách biệt vai trò của AI agent với quyền truy cập công cụ.

Ông nhấn mạnh rằng khả năng vượt qua guardrail luôn tồn tại, nên phòng thủ tuyệt đối gần như là điều không thể. Vì vậy, cách tiếp cận thực tế hơn là từ bỏ mô hình chỉ thiên về ngăn chặn, thay vào đó tích hợp cơ chế phát hiện và ứng phó theo thời gian thực, thường xuyên mô phỏng tấn công và duy trì quản trị lỗ hổng liên tục.

S2W cho biết trước những thay đổi nhanh của môi trường an ninh mạng do AI tạo ra, công ty đang cung cấp dịch vụ mô phỏng tấn công kết hợp công nghệ AI với năng lực phân tích của đội ngũ hacker mũ trắng. Doanh nghiệp này sử dụng công cụ AI nội bộ để rút ngắn thời gian xác định bề mặt tấn công và kiểm chứng lỗ hổng ở giai đoạn đầu, đồng thời dùng các công cụ thương mại mà tin tặc thường sử dụng để bù đắp điểm mù trong quá trình quét bằng AI và đối chiếu lại hiệu lực của các lỗ hổng đã phát hiện.

Kim Yang Jong-heon cho biết mục tiêu của việc ứng dụng AI vào bảo mật là xây dựng cơ chế phòng thủ động, có khả năng nhanh chóng phát hiện các nỗ lực vượt rào và liên tục cập nhật chính sách. Theo ông, cách tiếp cận này sẽ làm gia tăng chi phí tấn công và nâng khả năng đối tượng từ bỏ ý đồ xâm nhập.

Ông nói thêm S2W sẽ tiếp tục đẩy mạnh nghiên cứu theo hướng offensive, tập trung tìm kiếm lỗ hổng và kiểm chứng kịch bản từ góc nhìn của kẻ tấn công, đồng thời cung cấp các action item thiết thực để giúp doanh nghiệp giảm bớt rủi ro và bất định trong thời đại AI.