KMSLABは、POSCOの次世代全社ポータル「Next EP」に向け、社内GPU上で稼働するオンプレミスの大規模言語モデル(LLM)基盤を構築した。企業内で生成AIを定着させるには、セキュリティ確保だけでなく、クラウド型LLMに近い性能と既存システムとの連携力が欠かせないとしている。
同社は、AIベースの知識プラットフォーム「K-Portal BrainWeave」を基盤に、POSCOのNext EP事業を進めている。KMSLABによると、国内外の有力AI企業と7カ月以上にわたって概念実証(PoC)を競い、数万人が利用する社内ポータルの全面刷新案件を受注したという。
KMSLABのペ・ヒジョン代表は最近開いた記者懇談会で、議事録作成やメール要約といった単機能のAI導入事例は多い一方、中小企業が大企業の全社システムにフルスタックのAIソリューションを載せた例は珍しいと説明した。モデルサービングから学習データ処理、業務アプリケーションまで、ソフトウェアスタック全体を自社技術で提供した点を強調した。
POSCOに導入された「K-Portal BrainWeave」は、個人に蓄積された業務経験や専門知識を組織の共有資産へ転換するAIベースのナレッジマネジメントソリューションだ。企業内に分散する知識を体系的に蓄積・共有し、業務継続性と生産性の向上を支援する。
Next EPは、外部クラウドにデータを送らず、社内GPU上でLLMを動かすオンプレミス型のプロジェクトだ。用途別に最適化した複数のオープンウェイトモデルを組み合わせて運用する構成を採る。
ペ・ヒジョン代表は、大企業でもChatGPTやGeminiを活用する一方、流出が許されないメールや中核資料は社内で処理したいという需要が強いと指摘する。ただ、オンプレミス型LLMを実際の業務現場に根付かせるのは容易ではなく、最大の壁は性能だという。
現場の期待値は、グローバル大手が提供するクラウド型の先端AIに合わせられている。そのため、安全性を理由に導入しても、性能が見劣りすれば社内利用は広がりにくいというのが同社の見方だ。
KMSLABはPOSCO案件を進める中で、この課題の解消に注力した。ペ・ヒジョン代表は、POSCOを顧客として獲得できた背景について、オンプレミスLLM導入時のボトルネックを的確に解決した点が大きかったと説明した。
同氏は、「OpenAIやClaudeと同等である必要はないが、少なくともそれに近い水準まで持っていかなければ、企業の従業員は使わない」と述べた。その上で、オープンウェイトのLLMをオンプレミス環境でクラウドLLMに近い性能で提供できたことが高評価につながったと明らかにした。
もっとも、オンプレミスLLMを先端AIに近い水準で使える環境を整えるには、相応の技術蓄積が必要になる。高性能なオープンソースLLMを導入するだけでは不十分だという。
ペ・ヒジョン代表は、エンタープライズ向けLLMはモデル単体では完結せず、社内データや既存システムとの接続まで含めて設計する必要があると説明する。成否は、LLMそのものの性能だけでなく、既存システムとどこまで円滑に統合できるかに左右されるという。
さらに、複数のLLMをどう統合し、どう接続するかという設計も性能を大きく左右する。この点で同社は、長年培ってきたデータ処理力を強みとして打ち出す。データのラベリング、精製、分類、重複排除で蓄積してきた技術が、オンプレミスLLMを企業現場に導入する際の競争優位になっているとした。
ペ・ヒジョン代表は、「生成AIをあらかじめ見越して準備していたわけではないが、26年間にわたって蓄積したノウハウが学習データの精製で強みになった。その結果、LLMの応答精度を高めることができた」と語った。さらに、「Metaが巨額を投じてScale AIを事実上買収したのも、データ処理能力を高く評価したためだ」と述べた。
同社が重視するデータ処理技術の中核製品の一つが、文書やメールをリアルタイムで保存するアーカイビングソリューションだ。ユーザーが削除したメールも保存対象となるため、蓄積データは膨大になる。
こうしたデータをそのまま蓄積すると、ネットワークやストレージへの負荷が大きくなる。このため同社は、重複排除、圧縮、分類を中核とするアーカイビングソリューションを提供してきた。ペ・ヒジョン代表によると、2016年に外部機関の試験で、画像を含む1テラバイト分のデータを73.5%削減し、現在は80%水準まで高めたという。
KMSLABはPOSCO案件で、既存システムとの連携にも力を入れた。ペ・ヒジョン代表は、こうした案件はシステムとデータを連携・最適化する個別対応の積み重ねであり、同時に大量案件を一律に処理できる性質のものではないと指摘する。その上で、先行導入の経験自体が競争力になると強調した。
また、GPU導入の負担が大きい中小・中堅企業に対しては、自社開発のソフトウェアスタックをクラウド方式で提供することも可能だとした。
今後についてペ・ヒジョン代表は、外部資金に頼らず、自力で収益を上げながら研究開発を続けてきたと説明。「現場で不足している点を学びながら事業を発展させてきたし、今も学び続けている」とした上で、来年は海外展開を進めるとともに、エージェンティックAIや、トロント大学が研究を進めるフィジカルAIへと領域を広げる考えを示した。