Amazon Web Services (AWS) đã phát hành dưới dạng mã nguồn mở Strands Decider 2B, một mô hình quyết định gọn nhẹ dành cho các ứng dụng AI tác nhân.

Theo SiliconANGLE, ngày 1/10 (giờ địa phương), AWS cho biết mô hình này không tạo văn bản như các mô hình ngôn ngữ lớn thông thường, mà chỉ chọn một phương án trong tập lựa chọn có sẵn. Cách tiếp cận này giúp giảm lượng token tiêu thụ và rút ngắn thời gian phản hồi.

Strands Decider 2B được tối ưu để chạy cục bộ và phục vụ thử nghiệm nhanh. Nhà phát triển có thể vận hành mô hình trên laptop hoặc trên hạ tầng đám mây công cộng.

AWS cho biết chiến lược của hãng là hỗ trợ phát triển các “tác nhân lai” thông qua một bộ máy ra quyết định chuyên biệt. Trong đó, khâu lựa chọn phương án do mô hình quyết định đảm nhiệm, còn các tác vụ suy luận phức tạp sẽ do mô hình ngôn ngữ lớn xử lý.

Theo AWS, mô hình quyết định có cấu trúc khác với mô hình ngôn ngữ lớn. Nếu LLM có thể tạo văn bản, mã, hình ảnh hoặc video, thì mô hình quyết định chỉ chọn một trong nhiều phương án đã được xác định trước. Mỗi quyết định đi kèm điểm tin cậy, giúp người dùng đánh giá mức độ đáng tin cậy của kết quả. Đổi lại, do không có khả năng tạo văn bản, mô hình này cũng không thể tự giải thích lý do đưa ra quyết định.

AWS đánh giá Jev, một hệ thống AI type-safe mới xuất hiện gần đây, đã cho thấy tiềm năng của mô hình quyết định. Tuy nhiên, kiến trúc đầu ra song song của Jev khiến hiệu năng bị giới hạn khi xử lý các bài toán suy luận phức tạp. Theo SiliconANGLE, Strands Decider 2B được đưa ra nhằm khắc phục điểm hạn chế này.

Strands Decider 2B được xây dựng trên nền Qwen 3.5-2B. AWS thay phần đầu ra LLM mặc định của Qwen 3.5-2B bằng một “pointer head” tùy biến với khoảng 1 triệu tham số.

Phiên bản lần này mang tên v20, quy mô 2 tỷ tham số. AWS cho biết kích thước này đủ nhỏ để mô hình có thể chạy trên thiết bị cục bộ với thời gian phản hồi dưới 150 mili giây, nhưng vẫn xử lý được các quyết định phức tạp.

Người dùng có thể tải mô hình trên Hugging Face. Toàn bộ mã nguồn, script huấn luyện và ví dụ sử dụng cũng đã được AWS cung cấp trên GitHub.