Industry

Chips&Media、NPU向けデータ圧縮IPを発表　メモリ帯域を最大53.5%削減

Chips&Mediaは10月7日、NPUのメモリボトルネックを抑えるデータ圧縮IPを発表した。推論時のフィーチャーマップを無損失で圧縮・復元し、メモリ帯域をINT8で最大53.5%削減できるという。

Industry

Qualcomm、Snapdragon 8 Elite（第6世代）発表　スマホで300億パラメータ級AIに対応

Qualcommは「Snapdragon 8 Elite（第6世代）」を発表した。NPU内メモリの拡張やMoE、UFS 5.0の活用により、スマートフォン上で300億パラメータ級AIモデルの動作を可能にした。最大3万2000トークンに対応し、同様の設計思想をCPUのFlexCacheにも展開する。