据SiliconANGLE当地时间14日 报道，Microsoft正研究通过“可组合内存”（composable memory）技术缓解AI数据中心的内存瓶颈。其思路是，将原本分散在单台服务器上的内存统一纳入资源池，再根据任务需求动态调度。
报道称，Microsoft首席架构师Samir Rajadhyax近日在一场AI数据管道论坛上披露了相关研究进展。他所在的技术探索团队正尝试建立一套机制，把过去由各台服务器分别占用的内存，扩展为可在Azure内部统一共享、按需切分和调度的资源池。
在AI数据中心中，内存和存储若无法及时向GPU提供所需数据，GPU就会陷入等待，造成算力空转和资源浪费。
随着AI需求快速增长，内存资源也日益趋紧。Samir Rajadhyax指出，AI推理当前正同时受到电力和内存两方面的约束。
他表示，当前内存本就短缺，如果仍将这类资源长期绑定在暂未使用的任务上，只会进一步加剧浪费。过去，内存更多被视为CPU或GPU的附属部件，但如今已成为需要单独管理的关键资源。
Samir Rajadhyax还表示，内存和处理器两端都在持续创新，关键在于如何把两者高效连接起来。他认为，光互连技术将有助于推动可组合内存的实现。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr