Red Hat于10日发布企业AI平台新版本Red Hat AI 3.5,进一步强化上线前安全验证、共享GPU环境下的多租户管理和可观测性能力,同时补强智能体开发相关功能。
Red Hat表示,Red Hat AI 3.5旨在帮助企业以更可验证的安全能力、更清晰的成本分摊机制和更精细的资源管理方式,按照关键基础设施的标准管理和运行AI工作负载。
此次,Red Hat正式推出EvalHub。该工具可在部署前对模型、RAG配置和智能体进行校验,识别潜在风险,并生成可审计的合规报告。用户还可获得以风险为核心的安全基准测试结果及合规认证证书。
在模型生态方面,平台模型目录新增20余款已验证模型,包括Google Gemma 4、NVIDIA Nemotron 3和Alibaba Cloud Qwen等。除性能基准测试外,这些模型还提供Garak安全评分、隐私泄露风险评分和有害性风险评分。
在共享GPU基础设施方面,Red Hat强调其Fair-share调度机制可按租户分配容量;基于优先级的服务机制则可优先保障实时推理任务,并将剩余算力分配给后台任务。对于隔离要求更高的场景,用户还可基于OpenShift Virtualization使用托管控制平面。
Red Hat还介绍称,其分布式推理调度器新增功能,可优先选择已保留前序计算结果的服务器,从而提升处理效率。面向将大语言模型(LLM)拆分到多台服务器上进行分布式推理的开源项目LLM-D,除OpenShift外,现已正式支持CoreWeave CKS和Microsoft Azure,并以预览形式登陆Amazon EKS。
面向智能体应用,Red Hat推出了AutoRAG,可将企业数据源直接接入智能体,支持多语言文档处理和基于上下文的检索。同时,内置RAG功能的Responses API也已发布正式版。
此外,Responses API还集成NeMo Guardrails,可拦截恶意工具调用。AI Hub中则提供代码评审、文档处理、研究工作流等场景的开箱即用智能体模板。
在可观测性方面,新版本新增推理状态、GPU使用率和模型性能仪表盘;系统还可按用户统计Token用量,用作计费依据。MLflow则用于以可视化方式追踪智能体运行情况。