Nvidia ngày 15/10 (giờ địa phương) công bố loạt mô hình mở Nemotron 3.5 mới, hướng tới doanh nghiệp xây dựng nhiều loại AI agent, từ các tác vụ suy luận quy mô lớn đến xử lý trực tiếp trên thiết bị biên.

Hai sản phẩm được giới thiệu gồm Nemotron 3.5 Super VL và Nemotron 3.5 Bolt, phục vụ cả nhu cầu triển khai trong trung tâm dữ liệu lẫn on-device và edge.

Theo The Wall Street Journal, động thái này cho thấy Nvidia tiếp tục đẩy mạnh hiện diện trong mảng mô hình open-weight và mã nguồn mở, qua đó củng cố hệ sinh thái mô hình mở tại Mỹ.

Kari Briski, Phó chủ tịch phụ trách phần mềm AI tạo sinh cho doanh nghiệp của Nvidia, cho biết công ty sẽ tiếp tục tung ra các mô hình mở mới với chất lượng ngày càng cao. Theo bà, đây là thông điệp gửi tới nhà phát triển, đối tác và khách hàng doanh nghiệp rằng họ có thể tin tưởng sử dụng các mô hình của Nvidia.

Bà Briski cũng cho biết nhiều cơ quan công quyền và tổ chức tài chính vẫn dè dặt với các mô hình có xuất xứ từ Trung Quốc. Theo bà, Nemotron là mô hình của Mỹ, đồng thời người dùng có thể xem dữ liệu huấn luyện, nên mức độ quan tâm đang gia tăng. Bà nói thêm doanh nghiệp ngày càng quen với việc tùy biến và chỉnh sửa các mô hình mở cho mục đích sử dụng riêng.

Nemotron 3.5 Super VL có quy mô 120 tỷ tham số, được thiết kế cho việc phát triển các AI agent vận hành liên tục.

Nvidia cho biết Super VL đạt hiệu năng tương đương mô hình suy luận lớn nhất của hãng, nhưng kích thước chỉ bằng 1/5.

Theo công ty, mô hình này có thể xử lý nhanh cả những tác vụ AI agent phức tạp và tốn thời gian. Một điểm đáng chú ý khác là Super VL không chỉ xử lý văn bản mà còn làm việc với hình ảnh và video.

Atlassian, CrowdStrike, Dassault Systemes, Salesforce, Synopsys cùng nhiều doanh nghiệp khác đã tinh chỉnh Nemotron 3.5 Super VL bằng dữ liệu riêng. Theo bà Briski, mô hình được tùy biến theo nhu cầu doanh nghiệp có thể mang lại kết quả tốt hơn so với các mô hình frontier hàng đầu.

Trong khi đó, Bolt 74B-A9B 24GB là phiên bản gọn hơn, phát triển dựa trên Super VL, có thể chạy trực tiếp trên thiết bị và xử lý tác vụ AI agent ngay tại chỗ. Mô hình sở hữu 74 tỷ tham số, nhưng khi vận hành chỉ kích hoạt 9 tỷ tham số mỗi lần nhờ kiến trúc mixture-of-experts (MoE) lai. Nvidia cho biết mô hình có thể chạy trên máy trạm hoặc PC gắn GPU dành cho doanh nghiệp, hỗ trợ các tác vụ như viết mã và gỡ lỗi mà không cần đưa dữ liệu lên đám mây.

Nvidia cũng dự kiến phát hành Bolt E4B 4GB, phiên bản nhỏ hơn, vào cuối tháng 10. Mô hình này hướng tới các triển khai trên thiết bị biên dành cho GeForce RTX, Jetson và RTX GTX Spark, hỗ trợ AI vật lý và AI agent hội thoại trong các giao diện nhúng như thiết bị đeo, thiết bị gia dụng, thiết bị thanh toán tại điểm bán, bảng điều khiển ôtô và các tính năng hỗ trợ ngay trên thiết bị.

Ngoài ra, mô hình này còn có thể được dùng cho các nhân vật tương tác, giao diện hội thoại, cũng như những giao diện người dùng thông minh được bản địa hóa hoặc cá nhân hóa.