搜索关键词 缓存复用 AI & Enterprise 外媒称OpenAI内部分享推理降本方案,已用于ChatGPT访客模式部分流程 据外媒报道,OpenAI工程师在内部分享了一套可大幅压缩AI推理成本的优化方案,并已应用于ChatGPT访客模式的部分流程。报道未披露具体技术细节,但称相关方案可将成本降至原来一半以下,并把英伟达GPU占用压缩至约200张。该方案未来能否扩展至更大范围服务及API业务,正受到市场关注。 Industry Dinoticia发布企业级AI存储战略,发力AI推理基础设施市场 Dinoticia宣布进军企业级AI存储市场,围绕KV缓存复用、向量数据库Seahorse和自研VDPU芯片打造软硬件一体化架构,以应对AI推理场景下GPU HBM容量压力和数据调用效率问题。公司表示,已获得约1000亿韩元投资,计划于下半年推出首款AI存储产品。
AI & Enterprise 外媒称OpenAI内部分享推理降本方案,已用于ChatGPT访客模式部分流程 据外媒报道,OpenAI工程师在内部分享了一套可大幅压缩AI推理成本的优化方案,并已应用于ChatGPT访客模式的部分流程。报道未披露具体技术细节,但称相关方案可将成本降至原来一半以下,并把英伟达GPU占用压缩至约200张。该方案未来能否扩展至更大范围服务及API业务,正受到市场关注。
Industry Dinoticia发布企业级AI存储战略,发力AI推理基础设施市场 Dinoticia宣布进军企业级AI存储市场,围绕KV缓存复用、向量数据库Seahorse和自研VDPU芯片打造软硬件一体化架构,以应对AI推理场景下GPU HBM容量压力和数据调用效率问题。公司表示,已获得约1000亿韩元投资,计划于下半年推出首款AI存储产品。
文章搜索 搜索 AI 编辑精选 热门 1 中国先进AI模型训练仍倚重NVIDIA,国产替代卡在生态迁移成本 2 中国人民银行:数字人民币纳入“十五五”规划 未来5年稳步推进 3 AGIBOT上半年人形机器人出货量跃居全球第一,超过Unitree Robotics 4 杭州设立人形机器人“职业学校”,首批30台机器人参加上岗考核 5 Tesla FSD在中国、欧洲推进受阻:中国监管趋严,欧盟安全评估不透明惹争议 6 比亚迪Seal 06上市:纯电版10.99万元起,官方称5分钟可从10%充至70% 7 美记者试驾逾25款中国电动车:竞争力已不止于低价 8 Alibaba Cloud推CUBE 5.0:大型AI数据中心交付周期缩至100天,建设成本降10% 9 Alibaba拟开源Qwen3.8-Max,或向大型商用客户引入分成机制 10 NVIDIA据报开发开源大模型Nemotron 4,参数规模或超1万亿 1 韩国最高法院终审维持二审判决:Ironmace因侵犯商业秘密赔偿Nexon约57.65亿韩元 2 SOOP一季度营收1060亿韩元,营业利润同比降24.1% 3 Samsung Electronics 推出 Samsung Wallet 旅行服务 Trips,整合登机牌、酒店和门票信息 4 Microsoft发布面向法律文档处理的Word AI代理“Legal Agent” 5 Samsung Electro-Mechanics一季度营业利润增40%,单季营收首次突破3万亿韩元 6 韩国邮政客户中心累计接听来电突破2亿通 7 Charles Hoskinson:ADA账面亏损超75%,仍将长期持有并持续投入 8 美国财政部查扣涉伊朗约5亿美元加密资产 9 KB Kookmin Bank接入居家长期照护机构ERP,加码嵌入式金融布局 10 韩国公平交易委员会要求Coupang、Naver等7家开放平台整改不公平条款,叫停个人信息泄露免责条款