搜索关键词 高并发
AI & Enterprise
Lightbits Labs推出AI推理引擎Infera:扩展KV缓存以提升GPU利用率
Lightbits Labs正式推出AI推理软件引擎Infera,核心在于将KV缓存从容量有限的GPU HBM中扩展出来,并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景,旨在提升性能表现和成本效率。
AI & Enterprise
KT转战“全民AI”,押注大规模用户运营能力
在政府主导的独立AI基础模型项目首轮落选后,KT将目光转向“全民AI”项目。该项目重点建设面向公众的通用AI聊天机器人和公共AI Agent服务,并对韩国企业模型使用比例提出要求。KT此次联合多家本土模型、基础设施和平台企业,希望凭借通信、云和B2C运营经验,在服务落地环节建立优势。
AI & Enterprise
LG Uplus个性化AI论文获SIGIR 2026接收
LG Uplus宣布,其自研个性化AI技术“Personal Intelligence”相关论文已获国际信息检索学术会议SIGIR 2026接收,并将于澳大利亚墨尔本会议现场发布研究成果。该技术通过融合通话摘要、应用和网页使用记录以及基于位置的行为模式等多源数据,在数据流转受限和通信业务高并发、大流量场景下实现稳定运行。
-
Games & Commerce
Naver旗下Chzzk瞄准500万同时在线,韩国对阵南非一役成关键节点
-
AI & Enterprise
成本优势推动中国AI再升温:GLM 5.2领跑开源榜,DeepSeek加快在美国企业落地
-
Telecommunications & Media
KT为韩国消防厅上线应急通信优先保障服务,覆盖约8400台终端
-
AI & Enterprise
Ubase Group收购ReturnZero,7月将推出端到端客服AI代理
-
AI & Enterprise
Databricks高管:企业AI选型更看重成本和时延,开源小模型更受青睐
-
Telecommunications & Media
Netflix独播BTS首尔光化门广场回归演出:1840万人观看,卡顿与字幕延迟引争议
-
Telecommunications & Media
Netflix将独家直播BTS首尔回归演出:不接入外部CDN,完全依靠Open Connect应对高并发
-
AI & Enterprise
NVIDIA扩大与AWS合作 Nemotron Nano 3接入Amazon Bedrock