の検索結果 vLLM
Industry
Rebellions、公共AI CCTV転換向けに国産NPU導入
Rebellionsは、韓国政府主導の公共AI CCTV転換事業で慶尚南道庁と蔚山市の監視センター向け案件を受注した。8月からサーバー型NPU「ATOM-Max」を納入し、VLMによる映像解析基盤を担う。
AI & Enterprise
Dinotisia、KVキャッシュ圧縮技術「STAR-KV」の論文・ソースコード公開
Dinotisiaは、LLM向けKVキャッシュ圧縮技術「STAR-KV」の論文とソースコードを公開した。低ランク圧縮と混合精度量子化を組み合わせ、KVキャッシュを最大20倍まで圧縮したという。
AI & Enterprise
Red Hat、AI基盤を再構築 外部API依存脱却へOSSフルスタック前面に
Red Hatは、AIエージェント時代を見据えてAI基盤戦略を見直した。外部APIや特定ベンダーへの依存を抑え、自社インフラ上でAIを運用するOSSフルスタックの展開を加速する。
-
Crypto
NVIDIA時価総額5兆ドル突破、AI関連トークン市場にも波及
-
AI & Enterprise
Motif、NVIDIA上位ソフトウェアを使わずLLMを独自開発
-
AI & Enterprise
Red Hat、「Red Hat Tech Day 2026」開催 OpenShiftを軸としたAI対応ハイブリッドクラウド戦略を提示
-
AI & Enterprise
Red Hat、SoftBank Corp.のAI-RAN基盤「AITRAS」に「llm-d」統合
-
AI & Enterprise
AI推論基盤スタートアップで大型調達相次ぐ、Modal Labsは25億ドル評価で協議
-
AI & Enterprise
Inferact、1億5000万ドルをシード調達 vLLM事業化へ