据The Register当地时间29日报道,Meta开发了一项名为“Vistara”的内存复用技术,可将旧服务器拆下的DDR4内存重新接入新服务器,并借助自研CXL(Compute Express Link)技术在不同应用之间共享内存,同时尽量降低跨应用共享带来的额外时延。
Meta在相关论文中指出,在其自有服务器中,约40%的设备——规模达数百万台——受限于内存无法扩展,部分业务负载的处理能力因此受到限制。论文同时提到,服务器的使用周期通常为3至5年,而内存的可用年限可达7至10年。
基于这一情况,Meta提出将旧服务器中的DDR4内存拆出,再接入采用DDR5的新服务器,并以此构建内存池,实现旧内存的再利用。
不过,不同代际内存混用也会带来带宽下降、时延上升以及管理复杂度增加等问题。论文称,现有CXL产品难以支持这类内存模块复用,且普遍不支持DDR4,同时在功耗和成本方面也不具优势,因此并不适合这一方案。
为解决上述问题,Meta自研了Vistara ASIC,并通过CXL 2.0接口将DDR4内存池接入主机处理器。
Meta表示,这项技术目前已应用于机器学习推理、大数据处理、数据库和分布式缓存等场景。公司称,在采用该方案后,因内存不足导致的任务中断减少33%;在分布式推理场景中,服务器需求最多可下降25%。The Register还指出,在内存价格上涨的背景下,这一方案也有助于降低成本。
记者信息