Cohereは、大規模組織でのAIエージェント運用を想定したプラットフォーム「North 2」を発表した。マルチステップのタスク実行を管理するオーケストレーション機能を刷新したほか、トークン使用量の上限管理や管理コンソールの機能を拡充し、セキュリティとコスト管理を強化した。米SiliconANGLEが10月5日(現地時間)に報じた。
Cohereによると、企業がAIエージェントの導入を進める過程では、セキュリティ、機能性、コスト管理のいずれかを犠牲にしがちだったという。今回のアップデートには、金融や公共部門を含む各業界での大規模導入で得た知見を反映したとしている。
North 2では、複数の工程にまたがる作業をエージェントが自律的に処理し、人手を介すのは承認や決裁が必要な段階に限る。簡単なプロンプトで作成したエージェントも全社で共有でき、同じワークフローを重複して構築する手間を減らせる。
各エージェントはセッションをまたいでコンテキストを保持できる。繰り返し使うロジックは「スキル」としてまとめて再利用でき、共通ドキュメントや各種資産は共有ライブラリを通じて複数のエージェントで活用できる。
ユーザーは自然言語で指示するだけで、スライド資料やダッシュボード、簡易アプリケーションを作成できる。チャット画面内でプロトタイプをさらに発展させることも可能だ。
ビルダー機能としては、反復業務向けの事前構築テンプレートと、ドラッグ・アンド・ドロップで操作できるワークフロービルダーを提供する。実行状況や性能はリアルタイムで確認できるという。
コネクターはSlack、GitHub、Microsoft SharePoint、OneDriveに対応する。今後はPitchBook、S&P Global、FactSet Research Systems向けのコネクターも追加する計画だ。
コスト管理機能は、管理コンソール「North Admin」で提供する。管理者はユーザー別、エージェント別のトークン使用量を追跡できるほか、リクエスト量やトークン消費のペースに基づいて、ユーザーやグループごとの利用上限を設定できる。
全社ベースの利用上限も設定可能で、上限到達前に警告を送ることもできる。North 2は特定モデルに依存しない構成を採用しており、顧客がCohere以外から持ち込んだモデルもチーム単位で割り当てられる。
セキュリティ統制もNorth Adminで設定する。管理者は各エージェントにガードレールを適用し、プロンプトや応答に含まれる個人識別情報や、プロンプトインジェクションの試行を点検できる。
また、自律性ポリシーによって、各エージェントが許可された作業だけを実行するよう制限できる。導入形態はオンプレミスと顧客の仮想プライベートクラウドに対応し、外部接続のない完全なエアギャップ環境にも設置できる。
Cohereはあわせて、NVIDIAとの協業による運用コストの低減も訴求した。自社モデルはNVIDIAのBlackwellおよびHopper GPU上で動作し、ノード当たりの毎秒生成トークン数を高められるとしている。