Red Hat ngày 4/8 (giờ địa phương) công bố Asago, một dự án cộng đồng mã nguồn mở nhằm tự động chuyển các chính sách quản trị AI thành kiểm thử an toàn, biện pháp kiểm soát và cấu hình triển khai có thể đưa thẳng vào vận hành.

Theo SiliconANGLE, trọng tâm của Asago là thu hẹp khoảng cách giữa các yêu cầu chính sách và khâu triển khai kỹ thuật trong hệ thống AI.

Nền tảng này gom các đầu việc vốn tách rời giữa bộ phận tuân thủ, nhà khoa học dữ liệu và đội ngũ quản trị hạ tầng vào một quy trình thống nhất. Asago có thể tự động diễn giải chính sách, đánh giá rủi ro, đề xuất biện pháp an toàn, tạo cấu hình triển khai và lưu vết kiểm toán, qua đó cho phép truy xuất từng cơ chế kiểm soát đang bám theo yêu cầu chính sách nào.

Red Hat cho biết nhu cầu với các công cụ như vậy đang tăng lên khi doanh nghiệp chuyển từ giai đoạn thử nghiệm AI tạo sinh sang vận hành dài hạn, đồng thời bắt đầu triển khai các tác nhân tự trị. Theo hãng, việc chuyển các yêu cầu quản trị thành bài kiểm thử, guardrail và cấu hình hạ tầng phục vụ kỹ sư triển khai ngày càng phức tạp.

Hãng cũng cảnh báo cách làm thủ công, như tự diễn giải chính sách và viết script cho từng trường hợp, có thể làm chậm tiến độ triển khai và tăng rủi ro sai sót.

Asago được thiết kế theo quy trình chuẩn gồm 4 bước. Trước tiên, hệ thống diễn giải chính sách quản trị của tổ chức rồi đối chiếu với các bộ tiêu chuẩn như Khung quản trị rủi ro AI của Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST), OWASP Top 10 dành cho ứng dụng LLM và Đạo luật AI của Liên minh châu Âu (EU). Quá trình này sử dụng IBM AI Risk Atlas.

Ở bước tiếp theo, Asago tạo và chạy các bài kiểm thử an toàn phù hợp với mức độ rủi ro của từng trường hợp sử dụng. Từ kết quả này, hệ thống đề xuất các biện pháp giảm thiểu và guardrail, đồng thời ghi lại căn cứ đánh giá.

Ở bước thứ ba, hệ thống chuyển các cơ chế kiểm soát thành cấu hình triển khai có thể áp dụng ngay cho môi trường hybrid cloud và Kubernetes, bao gồm các tệp cấu hình cho Kubernetes, Terraform và Ansible.

Priya Nagpurkar, Phó chủ tịch phụ trách nền tảng AI tại IBM Research, cho biết để AI có thể tạo dựng niềm tin trong môi trường thực tế, các hệ thống cần có bài kiểm thử đo lường được cùng cơ chế kiểm soát ở cấp độ vận hành. Bà cho biết thêm IBM đang đóng góp chuyên môn thông qua cộng đồng Asago nhằm thu hẹp khoảng cách giữa các khung quản trị và những hệ thống AI đã được triển khai ngoài thực tế.

Tham gia dự án Asago hiện có Red Hat, Alquimia AI, Brave Software, ELLIS Alliance, IBM Research, University of Applied Arts Vienna, Microsoft, MIT Lincoln Laboratory, North Carolina State University, Nvidia và Alan Turing Institute.

Dự án được xây dựng trên nền tảng những công việc mà Red Hat và Nvidia từng thực hiện thông qua Open Secure AI Alliance. Phần mềm được phát hành theo giấy phép Apache 2.0 và hiện vẫn trong giai đoạn đặt nền móng cho dự án.