搜索关键词 推测解码
AI & Enterprise
OpenAI:AI模型活跃用户突破10亿,企业客户超200万家
OpenAI披露,其AI模型活跃用户已突破10亿,企业客户超过200万家。公司表示,近期下调GPT-5.6系列模型价格,主要基于系统优化和运营效率提升:模型服务端到端成本下降20%,推测解码方案改进使token生成效率提升逾15%。OpenAI还强调,随着成本持续下降,应用场景、需求规模以及后续研发和基础设施投入有望形成正向循环。
AI & Enterprise
Cerebras上线Kimi K2.6企业级推理服务:速度达981 token/s
AI芯片设计公司Cerebras宣布,将拥有1万亿参数的Kimi K2.6开源权重模型引入企业级推理服务,实测推理速度达到981 token/s。在1万token输入、500 token输出的测试中,完整响应时间仅为5.6秒,而Kimi官方API端点为163.7秒。与此同时,Cerebras在上市申报文件中披露其2025年营收为5.1亿美元、净利润2.38亿美元,并已与OpenAI、AWS达成长期合作。
AI & Enterprise
Red Hat发布Red Hat AI 3.4:推理速度最高提升至3倍,拓展航天与汽车合作
Red Hat在Red Hat Summit 2026上发布Red Hat AI 3.4,进一步强化大规模AI推理和Agentic AI的部署能力。新版本新增模型服务,并引入“推测解码”技术,可将推理速度最高提升至3倍。与此同时,Red Hat还扩大了与NVIDIA、Voyager Technologies及Nissan的合作,布局航天计算和软件定义车辆等领域。