の検索結果 メモリボトルネック
AI & Enterprise
Dinotisia、KVキャッシュ圧縮技術「STAR-KV」の論文・ソースコード公開
Dinotisiaは、LLM向けKVキャッシュ圧縮技術「STAR-KV」の論文とソースコードを公開した。低ランク圧縮と混合精度量子化を組み合わせ、KVキャッシュを最大20倍まで圧縮したという。
Industry
SK hynix、AIサーバー向け「SOCAMM2」192GBを量産開始
SK hynixは、次世代AIサーバー向けメモリモジュール「SOCAMM2」192GBの量産を開始した。10ナノ級第6世代（1c）のLPDDR5X DRAMを採用し、RDIMM比で帯域幅を2倍超、電力効率を75％以上高めた。NVIDIAの「Vera Rubin」向けに設計した製品という。
Industry
Claude Code流出で見えたAIメモリ需要 常時稼働エージェントが押し上げ
Anthropicの「Claude Code」流出コードから、常時稼働するAIエージェントが想定以上にメモリを消費する実態が浮かんだ。HBM中心の分析では見えにくい需要で、NVIDIAやArmのCPU重視の流れとも重なる。
