NVIDIA于当地时间15日发布开源模型家族Nemotron 3.5,进一步扩充面向AI智能体开发的模型产品线。此次推出的产品包括“Nemotron 3.5 Super VL”以及面向本地和边缘设备的“Nemotron 3.5 Bolt”。
据《华尔街日报》报道,NVIDIA此举意在持续推动开放权重和开源模型领域的创新,并为美国开源模型生态注入更多动力。
NVIDIA企业级生成式AI软件副总裁Kari Briski表示,公司将持续推出更新、更强的开源模型,向开发者、合作伙伴和企业传递“可以信任并使用NVIDIA”的信号。
Kari Briski还表示,公共机构和金融机构倾向于避免使用中国的模型,而Nemotron属于美国模型,且训练数据可供查看,因此正受到更多关注。她同时指出,越来越多企业已经习惯基于开源模型进行定制和二次开发。
其中,参数规模达1200亿的“Nemotron 3.5 Super VL”适合用于开发常驻运行的AI智能体。NVIDIA称,该模型在性能上接近公司自家最大推理模型,但体量仅为后者的五分之一。
按照NVIDIA的说法,Super VL能够更高效地处理耗时较长的智能体任务。Kari Briski表示,这款模型的一大特点是除文本外,还可处理图像和视频等多模态内容。
Atlassian、CrowdStrike、Dassault Systèmes、Salesforce、Synopsys等多家企业,已基于各自数据对Nemotron 3.5 Super VL进行进一步训练。Kari Briski称,与最顶级的前沿模型相比,企业往往能在自行定制的模型上获得更好的结果。
面向端侧部署的“Bolt 74B-A9B 24GB”则是基于Super VL推出的小型模型,可在本地设备上完成智能体任务。该模型总参数规模为740亿,运行时单次仅激活90亿参数,采用混合专家结构,可部署在企业工作站或PC GPU上,从而让代码编写、调试等任务无需发送到云端也能在本地完成。
NVIDIA还计划于10月底推出更小的“Bolt E4B 4GB”。该模型瞄准GeForce RTX、Jetson以及面向RTX/GTX Spark的边缘场景,支持在可穿戴设备、家用设备、销售点终端、车载仪表台以及设备辅助功能等嵌入式界面中运行物理AI和对话式智能体。
此外,该模型还可用于交互式角色、对话界面,以及本地化或个性化的智能用户界面。