图片来源:RAONBEE

AI基础设施平台企业RAONBEE将连续第四年参展CES 2026。该展会将于2026年1月6日至9日在美国拉斯维加斯举行。

RAONBEE将在展会上正式发布桌面端产品Backend.AI:GO。该产品无需连接云服务器,即可在个人PC本地运行语言模型,支持离线推理。

据介绍,Backend.AI:GO中的“GO”是“Generative On-device”的缩写,主打利用终端本地资源进行AI推理加速。

用户下载模型后,无需依赖云端,即便在没有网络连接的环境下也可运行,输入数据也不会传输到外部服务器。因此,用户可在更注重数据安全的环境下,将其用于企业文档分析、图像理解与生成、代码审查等场景;同时还可调整超参数和资源配额,以定制模型响应方式及资源占用水平。

除Backend.AI:GO外,RAONBEE还计划在CES上推出云端产品Backend.AI:DOL。

RAONBEE CEO Shin Jeong-gyu表示,随着AI PC时代加快到来,企业对在端侧直接运行大模型的需求正在迅速上升。公司希望通过Backend.AI:GO和Backend.AI:DOL,使用户能够在从单台PC到数千张GPU集群的不同环境下,以一致体验管理AI基础设施。

关键词

#RAONBEE #CES 2026 #Backend.AI:GO #Backend.AI:DOL #端侧AI #本地推理 #离线推理 #AI基础设施 #GPU集群
版权所有 © DigitalToday。未经授权禁止转载或传播。