AI基础设施软件公司Rableup宣布,将参加在美国芝加哥举行的超级计算大会SC26,并在现场展示AI基础设施一体化运营能力。
SC26是聚焦高性能计算(HPC)和人工智能等先进计算技术的国际性展会,活动将持续至19日。今年也是Rableup连续第4年参展。
展会期间,Rableup将在展台举行技术发布与交流活动,邀请全球半导体企业、合作伙伴和客户参与。参与方共计9家企业和机构,其中包括AMD、Intel、NVIDIA等全球半导体厂商,以及Rebellions、FuriosaAI、HyperAccel等韩国本土NPU企业。
相关企业和机构将围绕基于AI半导体的基础设施建设与运营技术,以及实际应用案例展开分享。其中,FuriosaAI将介绍其自研AI加速器与Rableup平台结合的大语言模型运营案例;美国南加州大学(USC)则将分享面向学术研究的AI计算服务运营案例。
Rableup还将在本次活动上提出“Token Factory”战略,聚焦AI模型推理效率与运营成本管理。公司将介绍如何通过自有平台Backend.AI统一管理异构AI加速器,以及通过Continuum Enterprise对Token用量、成本和计费进行管理。
此外,Rableup还将展示面向金融机构封闭网络环境的大语言模型运营方案、可在个人PC上运行AI模型的“AI:GO”,以及基于硬件可信执行环境(TEE)的AI安全技术。
Rableup CEO Shin Jeonggyu表示,随着AI基础设施逐步扩展至更多半导体和计算环境,能够实现高效统一运营的软件重要性正在不断上升。公司将进一步突出Backend.AI的可扩展性及一体化运营战略,以应对AI基础设施市场的变化。