搜索关键词 缓存复用 AI & Enterprise 外媒称OpenAI内部分享推理降本方案,已用于ChatGPT访客模式部分流程 据外媒报道,OpenAI工程师在内部分享了一套可大幅压缩AI推理成本的优化方案,并已应用于ChatGPT访客模式的部分流程。报道未披露具体技术细节,但称相关方案可将成本降至原来一半以下,并把英伟达GPU占用压缩至约200张。该方案未来能否扩展至更大范围服务及API业务,正受到市场关注。 Industry Dinoticia发布企业级AI存储战略,发力AI推理基础设施市场 Dinoticia宣布进军企业级AI存储市场,围绕KV缓存复用、向量数据库Seahorse和自研VDPU芯片打造软硬件一体化架构,以应对AI推理场景下GPU HBM容量压力和数据调用效率问题。公司表示,已获得约1000亿韩元投资,计划于下半年推出首款AI存储产品。
AI & Enterprise 外媒称OpenAI内部分享推理降本方案,已用于ChatGPT访客模式部分流程 据外媒报道,OpenAI工程师在内部分享了一套可大幅压缩AI推理成本的优化方案,并已应用于ChatGPT访客模式的部分流程。报道未披露具体技术细节,但称相关方案可将成本降至原来一半以下,并把英伟达GPU占用压缩至约200张。该方案未来能否扩展至更大范围服务及API业务,正受到市场关注。
Industry Dinoticia发布企业级AI存储战略,发力AI推理基础设施市场 Dinoticia宣布进军企业级AI存储市场,围绕KV缓存复用、向量数据库Seahorse和自研VDPU芯片打造软硬件一体化架构,以应对AI推理场景下GPU HBM容量压力和数据调用效率问题。公司表示,已获得约1000亿韩元投资,计划于下半年推出首款AI存储产品。
文章搜索 搜索 AI 编辑精选 热门 1 韩国科学技术信息通信部:国产AI基础模型项目将按计划推进至明年2月 2 Samsung Electro-Mechanics确定投资4.27万亿韩元 扩建世宗工厂FCBGA产线 3 韩国重申2027年1月起开征数字资产税,质押与空投规则将补充明确 4 韩国综合股价指数跌2.70%失守6900点,外资净卖出3.23万亿韩元 5 Samsung Electronics将家电订阅业务拓展至企业端:一次性采购支出转为运营成本 6 Microsoft智库:韩国生成式AI渗透率升至40.6%,位列全球第12 7 韩国“Nuri”火箭10月7日第五次发射 将首次执行星座组网任务 8 韩国生成式AI服务年内付费规模或破1万亿韩元,用户保护与平台责任受关注 9 Hyundai Motor Group重申推进全固态电池研发:5年内或有望出现小批量示范车型 10 DeepSeek拟采用Huawei芯片训练大模型 规划推出8万亿参数模型 1 韩国最高法院终审维持二审判决:Ironmace因侵犯商业秘密赔偿Nexon约57.65亿韩元 2 SOOP一季度营收1060亿韩元,营业利润同比降24.1% 3 Samsung Electronics 推出 Samsung Wallet 旅行服务 Trips,整合登机牌、酒店和门票信息 4 Microsoft发布面向法律文档处理的Word AI代理“Legal Agent” 5 Samsung Electro-Mechanics一季度营业利润增40%,单季营收首次突破3万亿韩元 6 韩国邮政客户中心累计接听来电突破2亿通 7 Charles Hoskinson:ADA账面亏损超75%,仍将长期持有并持续投入 8 美国财政部查扣涉伊朗约5亿美元加密资产 9 KB Kookmin Bank接入居家长期照护机构ERP,加码嵌入式金融布局 10 韩国公平交易委员会要求Coupang、Naver等7家开放平台整改不公平条款,叫停个人信息泄露免责条款