Red Hat ngày 22/10 cho biết đã mở rộng hợp tác với NVIDIA nhằm thúc đẩy triển khai agentic AI an toàn cho doanh nghiệp trên môi trường đám mây lai mở, thông qua nền tảng Red Hat AI Factory with NVIDIA.

Theo Red Hat, hai bên đang cùng phát triển OpenShell Reference Architecture để tăng cường bảo mật và khả năng kiểm soát ngay từ tầng nền tảng của các hệ thống agentic AI dành cho doanh nghiệp. Sáng kiến này sẽ được hỗ trợ bởi Red Hat AI Factory with NVIDIA.

OpenShell Reference Architecture được xây dựng trên OpenShell, một dự án mã nguồn mở cung cấp môi trường sandbox để vận hành các tác nhân AI. Red Hat và NVIDIA hiện là hai bên đóng góp chính cho dự án này.

Kiến trúc mới tích hợp các thành phần như cơ chế kiểm soát truy cập cho mô hình Model-as-a-Service (MaaS), AI Gateway, năng lực suy luận hiệu năng cao thông qua vLLM và llm-d, cùng khả năng kết nối với NVIDIA Dynamo, NVIDIA NIM microservices và công nghệ điều phối GPU.

Red Hat cho biết khi việc ứng dụng các tác nhân AI ngày càng mở rộng, nhu cầu suy luận cũng tăng nhanh, kéo theo yêu cầu cao hơn đối với lớp thực thi tối ưu và cách tiếp cận mô hình hiệu quả. Trên cơ sở đó, Red Hat và NVIDIA đã xây dựng một thiết kế tham chiếu chung dựa trên Red Hat AI Factory with NVIDIA.

Theo công ty, hai bên đang tận dụng công nghệ từ cộng đồng mã nguồn mở để cung cấp các cơ chế bảo vệ chuẩn hóa, khả năng quan sát vận hành và mức độ an toàn cao hơn trong quá trình triển khai.

Ở mảng hạ tầng, Red Hat cũng mở rộng hợp tác phần cứng với NVIDIA để giúp doanh nghiệp đáp ứng các workload agentic AI cường độ cao. Theo đó, các kiến trúc thế hệ mới như NVIDIA Vera Rubin sẽ được hỗ trợ ngay khi ra mắt.

Bên cạnh đó, Red Hat Enterprise Linux for NVIDIA cũng sẽ hỗ trợ CPU NVIDIA Vera, nhằm tối ưu hiệu năng cho xử lý tác nhân và thực thi tính toán.

Red Hat cho biết đang phối hợp với NVIDIA và cộng đồng mã nguồn mở để tích hợp OpenShell Reference Architecture như một năng lực nền tảng mặc định vào Red Hat AI và Red Hat AI Factory with NVIDIA.

Ông Joe Fernandes, Phó chủ tịch kiêm Tổng giám đốc mảng Red Hat AI, cho rằng việc tăng cường bảo mật cho agentic AI sẽ mở ra làn sóng đổi mới tiếp theo trong điện toán doanh nghiệp. Tuy nhiên, để mở rộng các tác nhân tự trị ở quy mô lớn, doanh nghiệp cần một nền tảng bảo đảm niềm tin, an toàn và khả năng tích hợp hạ tầng liền mạch.

Theo ông, việc Red Hat đẩy mạnh hợp tác với NVIDIA trong các cộng đồng mã nguồn mở như OpenShell, đồng thời cung cấp kiến trúc suy luận tối ưu và hỗ trợ phần cứng ngay từ thời điểm ra mắt, sẽ giúp các nhà lãnh đạo CNTT yên tâm triển khai agentic AI ở quy mô lớn.