搜索关键词 上下文窗口
AI & Enterprise
Lightbits Labs推出AI推理引擎Infera:扩展KV缓存以提升GPU利用率
Lightbits Labs正式推出AI推理软件引擎Infera,核心在于将KV缓存从容量有限的GPU HBM中扩展出来,并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景,旨在提升性能表现和成本效率。
AI & Enterprise
匿名编程模型 Ox Alpha 被指来自中国 Z.ai
外媒报道称,匿名编程模型 Ox Alpha 的开发方已被指向中国 AI 研究机构 Z.ai。该模型于 20 日未作预告上线 OpenRouter,凭借超大上下文窗口并支持处理文本、图片和视频,在一周内获得数百万次开发者调用。研究人员随后通过分词器指纹、基础设施探针和报错格式等线索完成溯源。
AI & Enterprise
NVIDIA宣布Groq 3 LPX进入量产:面向AI代理,基准测试生成速度最高达每秒3400个token
NVIDIA宣布,面向AI代理的推理加速器Groq 3 LPX已进入量产,并在Hot Chips 2026上正式亮相。该方案可与Vera Rubin NVL72配合,将长上下文处理与解码环节拆分。在Artificial Analysis基准测试中,Groq 3 LPX在10万token上下文窗口下运行Gemma 4 31B时,生成速度最高达到每秒3400个token。Nebius Group等企业将率先部署这一方案。
-
AI & Enterprise
调查:企业导入AI代理治理层后,错误回答比例不降反升
-
AI & Enterprise
SK Telecom、LG AI Research、Upstage晋级韩国自主AI基础模型项目下一阶段
-
AI & Enterprise
Alibaba开源Qwen3.8-27B本地多模态模型,称性能可比肩Claude Opus 4.6 Max
-
Crypto
Cloudflare发布面向AI代理的云浏览器Kitesurf
-
AI & Enterprise
韩国“独立AI基础模型”项目进入二次评估:LG与SKT押注600B级,Upstage和Motif主打效率
-
AI & Enterprise
Kakao开源Kanana-2轻量级语言模型,可在手机等端侧设备运行
-
AI & Enterprise
Upstage开源大模型Solar Open 2,聚焦AI代理能力
-
AI & Enterprise
Anthropic旗下Claude Code首轮请求最高达7.5万至8.5万Token,未提问先占用大量上下文
-
AI & Enterprise
Claude Code被通报存在安全风险,本土AI编程工具替代或将加速
-
AI & Enterprise
Tencent Hunyuan发布Hy3正式版:改用Apache 2.0许可证
-
AI & Enterprise
Meituan发布并开源LongCat-2.0:总参数达1.6万亿,采用MIT许可
-
AI & Enterprise
AI编程工具普及催热Harness Engineering:让LLM更可控地执行任务
-
AI & Enterprise
Gartner预计:到2028年AI编程成本将超过开发者平均年薪
-
AI & Enterprise
Z.ai发布开源模型GLM-5.2:基于Huawei Ascend AI加速器训练,FrontierSWE成绩接近Claude Opus 4.8
-
AI & Enterprise
Xiaomi开源MiMo Code V0.1.0,称在核心编程基准上超越Claude Code