Google vừa ra mắt dịch vụ trí tuệ nhân tạo Gemini Decision API, nhằm đáp ứng nhu cầu xử lý các truy vấn ngắn với chi phí thấp, theo SiliconANGLE ngày 11/11 (giờ địa phương).

Dịch vụ mới được xây dựng trên mô hình Gemini Decision 1. Khác với các mô hình ngôn ngữ lớn (LLM) có thể phản hồi nhiều loại prompt, Gemini Decision 1 chỉ tập trung vào ba dạng truy vấn gồm câu hỏi có/không, câu hỏi trắc nghiệm và yêu cầu chấm điểm theo thang điểm do người dùng đặt ra.

Chẳng hạn, một nhóm an ninh mạng có thể dùng mô hình để chấm mức độ nghiêm trọng của các cảnh báo từ phần mềm diệt virus theo thang điểm từ 1 đến 10.

Google cho biết chi phí sử dụng Decision 1 thấp hơn gần 5 lần so với Gemini 3.5 Flash Lite, dòng LLM phổ thông của hãng.

Mô hình này đưa ra các câu trả lời ngắn như “có” hoặc “không”, đồng thời cung cấp thêm một điểm số thể hiện mức độ tin cậy của câu trả lời. Các ứng dụng có thể dựa trên chỉ số này để quyết định có chấp nhận kết quả hay không.

Decision model là dòng mô hình mạng nơ-ron chuyên tạo ra câu trả lời ngắn cho các câu hỏi đơn giản. Trước Google, startup TypeSafe đã giới thiệu decision model đầu tiên mang tên Zev vào tháng 9.

Zev thu hút 1 triệu người dùng chỉ sau vài ngày. Ba tuần sau khi ra mắt, TypeSafe huy động được 870 triệu USD, qua đó đạt mức định giá 7,5 tỷ USD. Sau khi Zev gây chú ý trên thị trường, Amazon Web Services (AWS), Microsoft và OpenAI cũng tham gia cuộc đua decision model.