搜索关键词 本地推理
AI & Enterprise
AWS在首尔区域上线Anthropic Claude Opus 5和Sonnet 5
AWS宣布,Anthropic Claude Opus 5、Claude Sonnet 5等模型已在AWS亚太(首尔)区域的Amazon Bedrock可用,韩国企业和机构可在本地完成推理。此举有助于降低时延,并满足金融、公共部门、医疗等行业对数据驻留和合规的要求。多家韩国企业已基于Amazon Bedrock落地相关应用。
AI & Enterprise
OpenAI拟在韩国推出“推理驻留”,洽谈GPU及云基础设施合作
OpenAI正筹备在韩国推出“推理驻留”服务,计划把韩国用户的AI推理请求放在本地数据中心处理。目前,OpenAI已支持数据驻留,但模型推理环节仍可能调用海外算力。公司表示,相关服务何时落地,取决于韩国本地GPU供应及配套云基础设施的准备情况。
AI & Enterprise
Perplexity推出Portable Computer,发力本地AI代理
Perplexity推出AI代理平台Computer的本地版本Portable Computer,面向NVIDIA DGX Spark和搭载RTX GPU的Linux设备开放。本地运行时,模型、用户文件和任务结果均在设备端处理,且不计入使用额度;如需调用更强的云端模型,须经用户授权。公司同时披露了基准测试结果及订阅开放计划。