中国のAIスタートアップMoonshot AIは、オープンソースの大規模言語モデル(LLM)「Kimi」シリーズの最新版「Kimi-K2.6」を公開した。複数のAIベンチマークで、GPT-5.4やClaude Opus 4.6を上回ったと主張している。SiliconANGLEが21日(現地時間)に報じた。
Kimi-K2.6は、ハードウェア効率の向上と学習の効率化を狙い、SwiGLU(Swish Gated Linear Unit)活性化関数を採用した。SwiGLUは、MetaのLlamaシリーズをはじめ、複数のオープンソースLLMでも採用例がある。
モデルは384のエキスパートで構成される。各エキスパートは特定のタスクに最適化された小規模なニューラルネットワークで、入力ごとに8つのエキスパートのみを応答生成に用いることで、ハードウェア使用量を抑える仕組みだ。さらに、従来のアテンション機構よりハードウェア効率が高いMLA技術を採用し、プロンプト内の重要な部分を識別するとしている。
4億パラメータのビジョンエンコーダも搭載した。テキストだけでなくマルチメディア入力も処理でき、Moonshot AIは、ユーザーの指示とインターフェースのスケッチだけでWebサイトを完成させられると説明している。
複雑で時間のかかる作業では、最大300のエージェントを同時に実行する。タスク全体を複数の工程に分解し、各エージェントが並列処理することで、逐次実行よりも短時間で完了できるとしている。
あわせて、人とエージェントが役割分担して作業を進める「claw groups」機能も提供する。Rustなど低レベル言語でのプログラミング能力も、従来版から改善したという。