Liên minh Open Secure AI Alliance (OSAA) do Nvidia dẫn dắt vừa thành lập nhóm công tác đầu tiên mang tên SAFE (Shared AI Findings Exchange) và công bố bản đề xuất về cách ứng phó với các sự cố an ninh liên quan AI. Động thái được đưa ra chỉ một tuần sau khi liên minh này ra mắt.

Theo TechCrunch vào ngày 4/8 (giờ địa phương), số doanh nghiệp tham gia OSAA đã vượt mốc 120.

SAFE công bố bản đề xuất nhân hội nghị an ninh Black Hat diễn ra trong tuần này tại Las Vegas, Mỹ. Linux Foundation là đơn vị tiếp nhận góp ý công khai và quản lý tài liệu đề xuất.

Tài liệu tập trung vào ba nội dung chính: cơ chế báo cáo bảo mật không công khai đối với các sự cố an ninh mạng liên quan AI; quy trình thông báo cho các bên bị ảnh hưởng; và phương thức đánh giá sau sự cố theo hướng rút kinh nghiệm thay vì quy trách nhiệm. Đề xuất không đặt trọng tâm vào thay đổi công nghệ, mà ưu tiên thiết lập một bộ quy tắc ứng phó chung cho toàn ngành.

Bên cạnh đó, các thành viên OSAA cũng đang xây dựng danh mục các công nghệ mã nguồn mở có thể sử dụng cho bảo mật AI.

Các thành viên liên minh đồng thời bắt đầu công bố phần đóng góp cụ thể. Nvidia cung cấp nhiều mô hình mở và Garak, công cụ quét lỗ hổng dành cho các mô hình ngôn ngữ lớn (LLM) mã nguồn mở. Okta đóng góp công nghệ định danh cho agent, Red Hat phát triển công cụ quản trị agent, còn Amazon giới thiệu Strands Agent và ngôn ngữ phân quyền Cedar.

OSAA hiện có sự tham gia của Adobe, BlackRock, Cisco, Intel, Microsoft và Visa. Trong khi đó, Anthropic, OpenAI và Google vẫn chưa gia nhập liên minh.

Tuần trước, OpenAI và Google đã cùng ký vào một bức thư gửi Nhà Trắng, kêu gọi chính quyền hỗ trợ và không cản trở AI mã nguồn mở. Bức thư do Nvidia dẫn dắt, với hơn 200 công ty công nghệ cùng ký tên.