Meta Llama(资料图)。图片来源:Shutterstock

据The Register当地时间29日报道,Meta开发了一项名为“Vistara”的内存复用技术,可将旧服务器拆下的DDR4内存重新接入新服务器,并借助自研CXL(Compute Express Link)技术在不同应用之间共享内存,同时尽量降低跨应用共享带来的额外时延。

Meta在相关论文中指出,在其自有服务器中,约40%的设备——规模达数百万台——受限于内存无法扩展,部分业务负载的处理能力因此受到限制。论文同时提到,服务器的使用周期通常为3至5年,而内存的可用年限可达7至10年。

基于这一情况,Meta提出将旧服务器中的DDR4内存拆出,再接入采用DDR5的新服务器,并以此构建内存池,实现旧内存的再利用。

不过,不同代际内存混用也会带来带宽下降、时延上升以及管理复杂度增加等问题。论文称,现有CXL产品难以支持这类内存模块复用,且普遍不支持DDR4,同时在功耗和成本方面也不具优势,因此并不适合这一方案。

为解决上述问题,Meta自研了Vistara ASIC,并通过CXL 2.0接口将DDR4内存池接入主机处理器。

Meta表示,这项技术目前已应用于机器学习推理、大数据处理、数据库和分布式缓存等场景。公司称,在采用该方案后,因内存不足导致的任务中断减少33%;在分布式推理场景中,服务器需求最多可下降25%。The Register还指出,在内存价格上涨的背景下,这一方案也有助于降低成本。

关键词

#Meta #Vistara #DDR4 #DDR5 #CXL 2.0 #ASIC #内存池 #机器学习推理 #分布式缓存
版权所有 © DigitalToday。未经授权禁止转载或传播。