Red Hatは9月10日、企業向けAI基盤の新バージョン「Red Hat AI 3.5」を発表した。導入前のセキュリティ検証、共有GPU基盤のマルチテナント対応、オブザーバビリティの強化を柱に、エージェント開発機能やモデルカタログも拡充する。

同社によると、Red Hat AI 3.5では、AIワークロードを既存の基幹インフラと同等の水準で運用できるようにすることを目指す。検証可能なセキュリティやコスト配賦、きめ細かなリソース管理を通じて、企業利用に適した運用基盤を整える。

その一環として、EvalHubを正式提供した。EvalHubは、モデルやRAG構成、エージェントを導入前に評価し、リスクを把握したうえで、監査可能なコンプライアンスレポートに結び付ける仕組み。ユーザーは本番配備前にモデルを検証でき、リスクベースの安全性ベンチマークや規制順守に関する証明書を生成できるという。

モデルカタログには、Google Gemma 4、NVIDIA Nemotron 3、Alibaba Cloud Qwenを含む20種類超の検証済みモデルを追加した。各モデルには性能ベンチマークに加え、Garakによるセキュリティスコアや、個人情報漏えい・有害性に関するリスクスコアを付与する。

共有GPU基盤の強化も重点領域に位置付ける。フェアシェアスケジューリングによりGPU容量をテナントごとに配分し、優先度ベースのサービングではリアルタイム推論を優先しながら、余剰リソースをバックグラウンド処理に振り向ける。より厳格な分離が必要な場合は、OpenShift Virtualization基盤上でホスト型コントロールプレーンを利用できる。

分散推論スケジューラには、過去の計算結果を再利用できるサーバを優先的に選択する新機能を追加した。これにより処理速度の向上を見込む。大規模言語モデル（LLM）を複数サーバに分散して推論するオープンソースプロジェクト「LLM-D」は、OpenShiftに加え、CoreWeave CKSとMicrosoft Azureを正式サポートした。Amazon EKSではプレビューとして提供する。

エージェントアプリケーション向けには、AutoRAGも投入した。企業内のデータソースをエージェントに直接接続できるほか、多言語ドキュメントへの対応や文脈ベースの検索機能を備える。RAGを組み込んだResponses APIも正式版として提供する。

Responses APIには、悪意のあるツール呼び出しを遮断するNeMo Guardrailsを組み込んだ。AIハブでは、コードレビュー、文書処理、調査ワークフロー向けのエージェントテンプレートをそのまま利用できる。

オブザーバビリティ機能では、推論状態やGPU使用率、モデル性能を可視化するダッシュボードを追加した。ユーザーごとのトークン使用量を計測し、課金根拠として活用できるようにするほか、MLflowを使ってエージェントの動作を視覚的に追跡できるようにした。