OpenAI正筹备在韩国推出“推理驻留”（Inference Residency）服务，计划将韩国用户的AI推理请求放在韩国本地数据中心处理。为此，公司正与多家韩国本地基础设施服务商洽谈GPU和云基础设施资源合作。

9日，在首尔江南区“Josun Palace Seoul Gangnam”举行的OpenAI Korea成立一周年媒体沟通会上，OpenAI Korea总经理 Kim Kyung-hoon 表示，目前OpenAI已在韩国支持数据驻留，下一阶段将推进推理环节的本地化处理。

他介绍称，在模型生成答案的过程中，相关推理请求目前仍可能被发送至具备推理能力的服务器。这意味着，尽管输入数据已可存储在韩国境内，推理计算本身仍可能涉及海外算力。OpenAI正着手把这一环节也放到韩国完成，不过由于前期准备工作较多，正式落地仍需一定时间。公司预计，未来将通过韩国本地数据中心提供推理驻留服务。

目前，OpenAI在韩国已支持“数据驻留”，适用对象包括ChatGPT Enterprise、ChatGPT Edu和API客户。也就是说，这些客户可以将输入数据存储在韩国境内。但如果“推理驻留”进一步落地，除数据存储外，AI推理计算也可在韩国本地基础设施内完成。

Kim Kyung-hoon 表示，这项服务能否落地，关键取决于韩国本地GPU供应，以及配套云基础设施是否具备条件。

他在问答环节解释称，AI推理需要性能更强的GPU，也需要能够稳定支撑GPU运行的云系统。目前，OpenAI正与韩国境内多家有能力提供相关基础设施的合作伙伴持续沟通。

他还透露，其中一家合作伙伴一旦完成新一批GPU部署，预计将把部分资源分配给OpenAI，用于支持其在韩国的推理服务。更具体的上线时间表，仍需待相关安排进一步明确后才能公布。

不过，GPU供应紧张及由此带来的成本压力，预计将成为企业是否采用本地推理的重要变量。Kim Kyung-hoon 表示，受限于GPU数量和价格水平，企业是否选择在韩国本地进行推理，仍将结合成本与实际需求综合判断。OpenAI的原则是不预设特定行业或客户群体，而是面向确有韩国本地推理需求的客户提供服务。

OpenAI Korea介绍称，自去年9月10日成立以来，韩国企业对AI的采用速度明显加快。过去一年，韩国ChatGPT Enterprise用户增长28倍，整体ChatGPT用户增长35%；自3月1日以来的6个月里，ChatGPT Work和Codex用户增长14倍。

Kim Kyung-hoon 表示，过去不少企业对AI的使用还主要停留在以聊天机器人形式提供内部信息的阶段，如今已开始出现让AI参与团队协作、用于开发新产品和新服务的实践。同时，Codex的应用范围也正从工程师扩展至法务、财务、人力、会计、市场和销售等非开发岗位。

OpenAI当天披露的韩国AI导入案例包括 Samsung Electronics、Samsung SDS、LG Electronics、LG Uplus、LG CNS、SK、Krafton、Kakao、TVING、Musinsa、Nexen Tire、Toss、Korea Zinc、HanaTour、Yanolja、GS E&C 以及律所BKL等。公司表示，AI导入已覆盖制造、金融、技术、通信、内容、电商、专业服务和建筑等多个行业。

以 Samsung Electronics 为例，其已在研发、市场、海外销售和生产管理等多个领域使用OpenAI产品。OpenAI称，该案例在全球范围内也属于规模最大的企业导入项目之一。另据介绍，Seoul National University 约5万名教职员工和学生也在研发及日常工作中使用ChatGPT和Codex。

与此同时，OpenAI也在持续扩展韩国本地合作伙伴生态。在大型系统集成（SI）领域，公司正与 Samsung SDS、LG CNS、SK AX 合作；在云运维和管理服务领域，则与 MegazoneCloud、Bespin Global、Cloucus 合作；AI初创企业伙伴方面，介绍了 Coca 与 Aim Intelligence，并通过 Amazon Bedrock 推进平台层面的合作。

Kim Kyung-hoon 表示，OpenAI韩国办公室目前规模仍然较小，直接支持大量企业及中小企业存在客观限制。未来，公司将与在韩国推进AI转型的合作伙伴加强协作，以提升AI普及的速度和深度。