简体中文 < 文章列表 - 数字今日 (DigitalToday)

搜索关键词 vLLM

AI & Enterprise

Red Hat扩大与NVIDIA合作，加速安全可控的企业级Agentic AI落地

Red Hat宣布进一步扩大与NVIDIA的合作，依托“Red Hat AI Factory with NVIDIA”，推动安全可控的企业级Agentic AI在开放混合云环境中的部署。双方正联合开发基于开源项目OpenShell的参考架构，并整合MaaS访问控制、AI Gateway以及基于vLLM和llm-d的高性能推理能力，以提升运行时安全、推理效率和硬件适配能力。

AI & Enterprise

Google开源TorchTPU：PyTorch应用无需改写代码即可迁移至TPU

Google发布开源项目TorchTPU，旨在帮助开发者在无需改写代码的情况下，通过少量配置修改将现有PyTorch应用迁移至TPU，并部署到Google Cloud。与此同时，Google还推出TPU Agent Suite，用于协助迁移和问题排查，并升级LiteRT，以增强其与PyTorch应用的协同能力。

Industry

Rebellions切入韩国公共AI CCTV项目，8月交付国产NPU“ATOM-Max”

AI芯片企业Rebellions表示，公司已在韩国科学技术信息通信部与韩国智能信息社会振兴院（NIA）推进的“基于国产NPU的公共AI CCTV转换”项目中，获得庆尚南道厅和蔚山市CCTV监控中心的服务器基础设施订单。公司将从8月起交付服务器型NPU“ATOM-Max”，用于服务器侧第二阶段视频精细分析与情境说明自动生成。