Solar Mini 4基准测试对比。图片来源:Upstage

Upstage于10月1日发布自研小型大语言模型(LLM)Solar Mini 4。

Solar Mini 4总参数规模为350亿,采用专家混合(MoE)架构。推理时,模型仅激活约30亿参数,以降低算力开销。

在全球AI模型评测机构Artificial Analysis发布的Intelligence Index(AAII)中,Solar Mini 4综合得分为24分。Upstage表示,在激活参数规模约30亿的模型中,该模型表现处于前列。

Upstage介绍称,经量化后,Solar Mini 4可在单张GPU上部署运行,也可用于企业内部服务器本地部署环境。公司强调,依托较低的激活参数规模,该模型可降低重复性数据处理和业务自动化场景下的推理成本。

在产品布局上,Upstage后续将把Solar LLM划分为“Solar Pro”和“Solar Mini”两条产品线。其中,Solar Pro面向需要复杂判断的Agent类任务,Solar Mini则面向重复性强、吞吐量高的业务自动化场景。

此外,Solar Mini 4还将通过API路由平台OpenRouter提供API服务。Upstage已于今年8月在OpenRouter上线Solar Pro 4。

Upstage CEO Kim Seonghun表示,公司将复杂智能体任务定位为“Pro”,将大规模业务自动化定位为“Mini”,以便企业能够根据任务特性和处理规模选择合适的AI模型。

关键词

#Upstage #Solar Mini 4 #小型大语言模型 #MoE架构 #激活参数 #AAII #量化 #单卡GPU #本地部署 #OpenRouter
版权所有 © DigitalToday。未经授权禁止转载或传播。