Intelは、オープンソースのOpenCloフレームワークをベースにした企業向けハイブリッドAIプラットフォーム「SuperClo」のパブリックベータを公開した。米HotHardwareが9日、報じた。
SuperCloは、オンプレミス環境とクラウドの間で処理を動的に振り分けるアーキテクチャを採用する。
ファイル解析やメモリー検索、機密データのマスキングといった高頻度の処理はオンプレミスで完結させる。一方、複雑な多段階推論や高度なWeb検索のみを選択的にクラウド上の大規模言語モデルに振り向ける。Intelは、トークンの70％以上をローカルモデルで処理することで、ClaudeやChatGPTの利用コストを大幅に抑えられると説明している。
Intelが引用した社内の企業ワークロード試験によると、SuperCloのハイブリッドルーティングにより、クラウド側の平均トークン消費を70％以上削減できるという。HotHardwareは、これが実現すれば、AI活用拡大の障壁とされてきたコスト負担が下がり、全社規模でのAI導入の経済性を左右する可能性があると伝えている。
パブリックベータのシステム要件は高めだ。Intelによると、16GBのRAMを搭載したPanther LakeノートPCに加え、Arc Pro B70 GPUを4基搭載したワークステーションが必要になるという。
著者について
Chi-gyu Hwang
delight@d-today.co.kr