韩国软件公司KMSLab正基于自研AI知识平台“BrainWeave”(K-Portal BrainWeave),推进POSCO新一代企业门户“Next EP”项目。
KMSLab介绍称,公司此前以中小企业身份,与全球及韩国本土多家知名AI企业进行了7个多月的概念验证(PoC)竞争,最终拿下该项目。项目目标是将面向数万名员工使用的内部门户,全面升级为AI平台。KMSLab认为,这一项目无论对公司自身还是对韩国相关产业,都具有标志性意义。
KMSLab首席执行官Bae Hee-jung近日在记者会上表示,目前市场上提供会议纪要生成、邮件摘要等单点AI能力的厂商很多,但由中小企业将全栈AI解决方案部署到大型企业全公司级系统中的案例并不多见。此次项目中,从模型服务、训练数据处理到业务应用,均由KMSLab以自研技术贯通。
此次部署到POSCO的“K-Portal BrainWeave”是一套AI知识管理方案,目标是将员工沉淀的工作经验和专业知识转化为组织层面的共享资产,通过系统化沉淀并共享企业内部的分散知识,提升业务连续性和生产效率。
据了解,POSCO“Next EP”采用本地部署模式,相关数据不发送至外部云端,而是在企业内部GPU环境中运行大语言模型(LLM),并结合多款针对特定用途优化的开源模型协同运行。
在KMSLab看来,这一项目也反映出大型企业在AI部署上的实际取向:ChatGPT、Gemini等云端服务可以使用,但涉及不可外泄的邮件和核心资料时,企业仍更倾向于在内部环境中完成处理。
不过,本地部署LLM要在企业内部顺利落地并不容易,其中最大的门槛之一就是性能。Bae Hee-jung表示,在业务部门对全球头部云端AI产品已形成明确使用预期的情况下,如果本地部署方案只是更安全、但性能明显偏弱,就很难真正被员工接受。
因此,KMSLab在争取POSCO项目时,重点放在解决这一问题上。Bae Hee-jung表示,公司之所以能够拿下POSCO项目,核心就在于针对本地部署LLM的落地痛点提供了可行方案。
他表示,虽然本地部署方案很难达到OpenAI的模型或Claude的水准,但如果使用体验无法尽量逼近这些云端模型,企业员工就不会愿意持续使用。KMSLab通过对开源权重LLM进行本地化优化,使其在本地部署环境中的表现尽可能接近云端模型,因此获得了积极评价。
Bae Hee-jung进一步指出,要把本地部署LLM真正用到接近头部AI产品的体验水平,依赖的不只是高性能开源模型本身,还需要较强的工程化和系统集成能力。
在企业场景中,LLM的价值不仅取决于模型本身,还取决于其能否与企业内部数据和既有系统顺畅连接。项目成败,很大程度上取决于与既有系统的融合深度;而模型之间如何整合、联动,也会在不易察觉的环节显著影响最终性能。
围绕这一点,Bae Hee-jung强调了KMSLab的数据处理能力。他表示,公司长期积累的数据标注、清洗、分类和去重能力,正成为本地部署LLM进入企业实际业务场景时能够被明显感知的竞争优势。
他还表示,公司并非提前为生成式AI专门布局,但26年来积累的经验,已在训练数据清洗方面形成优势,并进一步提升了LLM回答的准确性。他同时提到,报道称Meta曾斥巨资接近收购Scale AI,也与其看重数据处理能力有关。
在数据处理能力体系中,KMSLab的一项核心产品是面向文档和邮件的实时归档解决方案。由于即便用户删除邮件,归档系统仍会保留相关记录,归档数据规模非常庞大;如果只是简单堆积,对网络和存储都会造成较大压力。为此,公司长期提供以去重、压缩和分类为核心的归档方案。
Bae Hee-jung表示,2016年公司在外部机构测试中,曾将包含图片在内的1TB数据压缩约73.5%;目前这一水平已提升至约80%。
在推进POSCO项目过程中,KMSLab也将大量精力投入到既有系统对接工作中。Bae Hee-jung表示,系统与数据的联动和优化,不可能由任何一家企业同时为10家、100家客户一次性完成,但先行积累的经验会逐步拉开差距。
他还表示,对于无力采购GPU的中小企业和中坚企业,公司也可以通过云端方式提供自研软件栈。KMSLab目前在未引入外部投资的情况下,依靠自身造血持续投入研发,并通过一线项目不断补齐短板、积累经验。明年公司将推进海外业务拓展,同时把业务范围扩展至Agentic AI以及多伦多大学正在研究的Physical AI。