AI & Enterprise
Upstage发布Solar Mini 4:总参数规模350亿,量化后支持单卡GPU部署
Upstage于10月1日发布自研小型大语言模型Solar Mini 4。该模型总参数规模为350亿,采用MoE架构,推理时仅激活约30亿参数,以降低算力开销。在Artificial Analysis的Intelligence Index(AAII)评测中,Solar Mini 4获得24分。公司表示,经量化后,该模型可支持单卡GPU部署,适用于企业本地部署及吞吐量高的业务自动化场景。