搜索关键词 推理
AI & Enterprise
Lightbits Labs推出AI推理引擎Infera:扩展KV缓存以提升GPU利用率
Lightbits Labs正式推出AI推理软件引擎Infera,核心在于将KV缓存从容量有限的GPU HBM中扩展出来,并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景,旨在提升性能表现和成本效率。
AI & Enterprise
Red Hat发布Red Hat AI 3.5,聚焦上线前安全验证、共享GPU多租户与可观测性
Red Hat发布企业AI平台Red Hat AI 3.5,重点强化上线前安全验证、共享GPU环境下的多租户管理和可观测性能力,并进一步完善智能体开发支持。新版本推出EvalHub,可对模型、RAG配置和智能体进行部署前校验,并生成可审计的合规报告和合规认证证书;同时新增20余款已验证模型,增强GPU调度和分布式推理支持。
Industry
JD.com未来5年拟投放300万台机器人、部署100万辆无人车 加码物流自动化
JD.com宣布,未来5年将围绕全国物流网络投放300万台机器人,并部署100万辆无人车和10万架配送无人机,推动供应链自动化升级。与此同时,公司还将采集超过1000万小时真实运营数据,并打造由10万颗国产芯片支撑的计算集群,完善具身智能研发基础设施。
-
AI & Enterprise
SKT启动“AI for All”联盟 布局8大领域执行型AI服务
-
Industry
IDC:超九成企业引入AI后数据价值上升
-
AI & Enterprise
OpenAI拟将ChatGPT打造成广告平台:按年化口径计算收入达10亿美元
-
AI & Enterprise
OpenAI拟在韩国推出“推理驻留”,洽谈GPU及云基础设施合作
-
Industry
Samsung Electro-Mechanics、LG Innotek亮相KPCA Show 2026 聚焦下一代封装基板
-
AI & Enterprise
HS Hyosung Information System携GreenCore与NPU发力AI推理基础设施市场
-
AI & Enterprise
Qualcomm与AWS合作开发AI推理定制芯片 股价涨10%
-
AI & Enterprise
Axios:OpenAI发布GPT-6 Astra,性能提升伴随透明度争议
-
Industry
SemiFive推动Samsung Foundry 4nm数据中心AI推理加速器投产
-
AI & Enterprise
Hancom携手Hancom Innostream、FuriosaAI 布局企业与公共机构AX市场
-
AI & Enterprise
GPT-6 Astra引入“不透明递归”,引发AI推理可解释性争议
-
AI & Enterprise
韩国2026年国政监查聚焦AI:国产基础模型落地、26万块GPU供电与用水及未成年人保护
-
AI & Enterprise
Spotify调整Claude Code调用策略,Token消耗平均下降90%
-
AI & Enterprise
Jensen Huang祝贺OpenAI发布Astra:AGI已到来,40万块GPU将投用
-
AI & Enterprise
Nvidia与Stripe大额并购引关注:AI模型分发层价值凸显