Lablup公司标志。

AI基础设施软件公司Lablup于23日表示,已与Shinhan DS签订GPU管理及API管理软件项目合同,将向后者提供AI模型管理解决方案Continuum Suite。

这是Continuum Suite商业化发布后的首个订单。根据合同,Lablup将负责项目中的API管理软件模块。

Continuum Suite是一套面向多种大语言模型(LLM)API的统一管理方案,包含可在不同AI模型之间进行请求分发、并在故障发生时自动切换调用路径的Continuum Router,以及可集中管理API Key发放、Token使用量和费用统计的Continuum Hub。

据介绍,该方案针对金融行业网络隔离环境提供安全功能,支持按组织和用户维度发放API Key并统计使用量。即便中心管理系统出现故障,各项AI服务仍可持续运行。

Lablup表示,自在NVIDIA GTC 2025首次发布Continuum后,公司一直以金融和医疗健康行业为重点推进其商业化落地。

Lablup CEO Shin Jeong-gyu表示,随着模型数量增加,企业需要管理的节点也会随之增多。公司将推动更多企业通过Continuum整合分散的管理节点,以应对相关管理问题。

此外,Lablup已于22日至23日面向一般投资者进行IPO申购,主承销商为NH Investment & Securities,计划于11月3日在KOSDAQ市场上市。

关键词

#Lablup #Shinhan DS #Continuum Suite #AI模型管理 #LLM #API管理 #GPU管理 #金融科技 #网络隔离 #IPO #KOSDAQ
版权所有 © DigitalToday。未经授权禁止转载或传播。