Genon, công ty chuyên phát triển giải pháp AI tạo sinh, ngày 26/10 công bố GenGuard, giải pháp bảo mật AI dành cho doanh nghiệp.

Theo Genon, GenGuard được thiết kế để đánh giá và chặn các yêu cầu đầu vào cũng như phản hồi do AI tạo ra theo chính sách bảo mật do doanh nghiệp đặt ra. Sản phẩm được phát triển dựa trên kinh nghiệm vận hành guardrail của nền tảng AI tạo sinh GenOS, đồng thời có thể triển khai độc lập mà không cần đi kèm GenOS.

Điểm nổi bật của GenGuard là khả năng thiết lập chính sách bảo mật bằng ngôn ngữ tự nhiên. Doanh nghiệp không cần huấn luyện lại mô hình, mà chỉ cần nhập các quy tắc cho từng dịch vụ, chẳng hạn như “chặn khuyến nghị cổ phiếu riêng lẻ”. Hệ thống sau đó sẽ kiểm soát cả yêu cầu và phản hồi của AI theo những tiêu chí đã đặt ra.

Genon cho biết giải pháp này có thể ứng phó với nội dung độc hại, các hành vi jailbreak và tấn công prompt.

Ở mảng bảo vệ dữ liệu cá nhân, GenGuard hỗ trợ nhận diện cả dữ liệu có cấu trúc như số căn cước, số tài khoản, lẫn dữ liệu phi cấu trúc như tên và địa chỉ. Doanh nghiệp có thể chặn hoặc ẩn dữ liệu cá nhân trước khi gửi tới các dịch vụ AI bên ngoài. Sản phẩm cũng cung cấp chế độ giám sát để kiểm tra nguy cơ cảnh báo nhầm trước khi áp dụng chính sách, đồng thời hỗ trợ môi trường triển khai on-premise.

Cùng với GenGuard, Genon cũng giới thiệu “GenGuard 1.0 Lite”, mô hình guardrail tinh gọn do công ty tự phát triển, cùng bộ dữ liệu đánh giá chính sách dịch vụ tiếng Hàn “KSPG-Bench”. Theo Genon, mô hình nội bộ này đạt điểm trung bình 84,3 và dẫn đầu trong bài đánh giá đối sánh với 5 mô hình guardrail công khai.

Genon cho biết sẽ mở rộng triển khai GenGuard, trước mắt tập trung vào các lĩnh vực đòi hỏi cao về bảo vệ thông tin và kiểm soát nội bộ như tài chính và khu vực công.

Ông Myeong Dae-woo, Phó chủ tịch Genon, nhận định rằng khi doanh nghiệp đẩy mạnh ứng dụng AI, bảo mật sẽ không còn chỉ là công cụ quản trị rủi ro mà trở thành yếu tố then chốt quyết định độ tin cậy và năng lực cạnh tranh của dịch vụ AI. Ông cho biết Genon sẽ dẫn dắt thị trường bằng công nghệ bảo mật AI được tối ưu cho môi trường doanh nghiệp nội địa.