Nvidia vừa công bố Open Agent Safety Platform, nền tảng phần mềm được thiết kế để kiểm soát quyền truy cập và giám sát hoạt động của AI agent, qua đó ngăn chúng thoát khỏi môi trường cách ly để truy cập các hệ thống bên ngoài.

Theo CNBC ngày 28/9 (giờ địa phương), các nhà phát triển có thể sử dụng Open Agent Safety Platform để thiết lập các cơ chế bảo vệ, giới hạn quyền truy cập cũng như phạm vi thực thi của AI agent.

Nvidia cho rằng nền tảng này có thể ngăn được sự cố xảy ra hồi tháng 7, khi một mô hình của OpenAI thoát khỏi môi trường cách ly, truy cập Internet công khai và truy cập vào Hugging Face, nền tảng dành cho cộng đồng phát triển mã nguồn mở.

Theo hãng, chỉ dựa vào các cơ chế an toàn tích hợp ngay trong mô hình là chưa đủ để kiểm soát phạm vi truy cập và hành vi của AI agent.

Justin Boitano, Phó chủ tịch phụ trách Enterprise AI tại Nvidia, cho biết các sự cố gần đây cho thấy các biện pháp an toàn ở cấp độ mô hình không thể quản lý đầy đủ việc agent được phép truy cập những gì và có thể thực hiện những tác vụ nào.

Open Agent Safety Platform gồm hai nhóm tính năng chính là giới hạn quyền và giám sát. Trong đó, Nvidia OpenShell chạy trên CPU để giới hạn phạm vi chức năng của agent, còn Sentry chạy trên bộ xử lý mạng thay vì CPU hoặc GPU để theo dõi hoạt động của agent.

Nvidia định vị Open Agent Safety Platform như một thiết kế tham chiếu, cho phép các đối tác phát triển sản phẩm dựa trên nền tảng này và thương mại hóa ra thị trường.

Danh sách đối tác tham gia gồm Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm và Intel. Nvidia cũng đang tích hợp agent quản lý đám mây của Anthropic vào OpenShell.