の検索結果 メモリボトルネック
Industry
Chips&Media、NPU向けデータ圧縮IPを発表 メモリ帯域を最大53.5%削減
Chips&Mediaは10月7日、NPUのメモリボトルネックを抑えるデータ圧縮IPを発表した。推論時のフィーチャーマップを無損失で圧縮・復元し、メモリ帯域をINT8で最大53.5%削減できるという。
AI & Enterprise
Dinotisia、KVキャッシュ圧縮技術「STAR-KV」の論文・ソースコード公開
Dinotisiaは、LLM向けKVキャッシュ圧縮技術「STAR-KV」の論文とソースコードを公開した。低ランク圧縮と混合精度量子化を組み合わせ、KVキャッシュを最大20倍まで圧縮したという。
Industry
SK hynix、AIサーバー向け「SOCAMM2」192GBを量産開始
SK hynixは、次世代AIサーバー向けメモリモジュール「SOCAMM2」192GBの量産を開始した。10ナノ級第6世代（1c）のLPDDR5X DRAMを採用し、RDIMM比で帯域幅を2倍超、電力効率を75％以上高めた。NVIDIAの「Vera Rubin」向けに設計した製品という。
