Upstage ngày 1/10 công bố Solar Mini 4, mô hình AI ngôn ngữ cỡ nhỏ do công ty tự phát triển, nhắm tới nhu cầu tự động hóa khối lượng lớn và tối ưu chi phí suy luận cho doanh nghiệp.

Theo Upstage, Solar Mini 4 có tổng cộng 35 tỷ tham số và được xây dựng trên kiến trúc mixture of experts (MoE). Khi suy luận, mô hình chỉ kích hoạt 3 tỷ tham số, qua đó giảm đáng kể khối lượng tính toán.

Trên Artificial Analysis Intelligence Index (AAII), Solar Mini 4 đạt tổng điểm 24. Upstage cho biết đây là mức hiệu năng cao trong nhóm mô hình chỉ kích hoạt 3 tỷ tham số.

Công ty cho biết sau khi lượng tử hóa, mô hình có thể chạy trên một GPU duy nhất, phù hợp với các môi trường triển khai on-premise trên máy chủ nội bộ doanh nghiệp. Upstage nhấn mạnh Solar Mini 4 được thiết kế để giảm chi phí suy luận trong các tác vụ xử lý dữ liệu lặp lại và tự động hóa công việc.

Về danh mục sản phẩm, Upstage định hướng dòng Solar LLM theo hai nhóm gồm Solar Pro và Solar Mini. Trong đó, Solar Pro phục vụ các tác vụ AI agent đòi hỏi khả năng phán đoán phức tạp, còn Solar Mini tập trung vào tự động hóa các công việc lặp lại với khối lượng xử lý lớn.

Solar Mini 4 hiện cũng được cung cấp dưới dạng API thông qua nền tảng định tuyến API OpenRouter. Trước đó, Upstage đã đưa Solar Pro 4 lên OpenRouter vào tháng 8.

CEO Upstage Kim Seong-hoon cho biết công ty đã chuẩn hóa danh mục sản phẩm theo hướng “Pro” cho các tác vụ agent phức tạp và “Mini” cho tự động hóa quy mô lớn, qua đó giúp doanh nghiệp lựa chọn mô hình AI phù hợp với đặc thù công việc và sản lượng xử lý.