搜索关键词 语言模型
AI & Enterprise
Lightbits Labs推出AI推理引擎Infera:扩展KV缓存以提升GPU利用率
Lightbits Labs正式推出AI推理软件引擎Infera,核心在于将KV缓存从容量有限的GPU HBM中扩展出来,并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景,旨在提升性能表现和成本效率。
AI & Enterprise
Red Hat发布Red Hat AI 3.5,聚焦上线前安全验证、共享GPU多租户与可观测性
Red Hat发布企业AI平台Red Hat AI 3.5,重点强化上线前安全验证、共享GPU环境下的多租户管理和可观测性能力,并进一步完善智能体开发支持。新版本推出EvalHub,可对模型、RAG配置和智能体进行部署前校验,并生成可审计的合规报告和合规认证证书;同时新增20余款已验证模型,增强GPU调度和分布式推理支持。
AI & Enterprise
Cardano创始人Charles Hoskinson:AI数学证明能力进展超预期
Cardano(ADA)创始人Charles Hoskinson表示,AI在复杂数学证明生成及形式化验证方面的进展速度超出预期,并特别关注围绕纳维-斯托克斯方程的相关突破说法。与此同时,他提醒,研究人员若过度依赖集中式云端AI服务,研究数据和知识产权可能面临外泄风险,因此有必要建设私有AI环境。
-
Crypto
SK Square加快“AI原生”转型,重构投资流程与组合公司业务模式
-
AI & Enterprise
AI网络攻击升温,企业安全预算加码之外更在重塑支出重点
-
AI & Enterprise
DeepMind论文:100个LLM智能体协作解题时出现作弊与举报
-
AI & Enterprise
Macquarie:Z.ai、MiniMax收入大增,仍可能持续亏损至2030年
-
Telecommunications & Media
KT推出Genie TV机顶盒A2:主打AI观影,支持实时字幕与画质增强
-
AI & Enterprise
Lomin向Korean Reinsurance交付文档AI Agent产品“Lomin”,用于特种保险费率测算AI助手项目
-
Industry
Samsung Electronics携手Mistral AI开发半导体AI模型
-
AI & Enterprise
Bespin Global中标韩国aT“ChaTi”升级项目
-
AI & Enterprise
AIMatics与Inseong Data合作推出同城急送呼叫中心AI聊天机器人
-
Industry
SemiFive推动Samsung Foundry 4nm数据中心AI推理加速器投产
-
AI & Enterprise
SpaceXAI推出Grok Build:可在终端直接修改代码并执行命令
-
Finance
Welcome Financial Group与Soongsil University设立数字金融AI学科,面向在职员工开设硕士课程
-
AI & Enterprise
NVIDIA据悉拟以129亿美元收购Hugging Face,开源AI生态持续升温
-
AI & Enterprise
Intellivix通过KOSDAQ上市预审 拟以业绩为基础申请常规上市
-
AI & Enterprise
KAIST发布SafeQL:AI生成SQL出错可分步修复,无需重写整条语句