OpenAI当地时间6月24日宣布，已与Broadcom联合开发AI推理芯片Jalapeno。这是OpenAI推进自有硬件布局、降低对NVIDIA GPU依赖的最新动作。
据SiliconANGLE报道，OpenAI计划在今年年底部署首批搭载Jalapeno的服务器，并在后续逐步扩大该芯片的应用范围。
与兼顾训练和推理的NVIDIA主力GPU不同，Jalapeno是一款专门面向推理场景的芯片。OpenAI表示，在早期测试中，Jalapeno的每瓦性能明显优于当前领先产品。
OpenAI尚未披露Jalapeno的更多设计细节，仅表示其底层架构重点在于减少数据搬移。
在网络侧，基于Jalapeno的推理集群还将采用Broadcom的Tomahawk系列技术。Tomahawk系列属于以太网交换芯片，可用于机架内服务器互联以及跨机架数据传输。
其中，最新一代Tomahawk 6最高可处理每秒1.6太比特流量，并可借助内置拥塞管理引擎，缓解网络拥塞带来的性能瓶颈。
此外，OpenAI还在开发与之配套的定制服务器机架，整合Jalapeno芯片和Broadcom网络设备。为此，OpenAI正与位于多伦多的数据中心设备设计公司Celestica合作。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr