Amazon Web Services(AWS)开源发布了面向智能体开发的轻量级决策模型“Strands Decider 2B”。
据SiliconANGLE 1日(当地时间)报道,这一模型并不直接生成文本,而是通过在预设选项中进行选择来完成任务,目标是降低token消耗并缩短响应时间。
AWS表示,Strands Decider 2B针对本地部署和快速试验场景进行了优化,开发者既可在笔记本电脑上运行,也可部署在公有云环境中。
按照AWS的思路,智能体开发可采用“混合智能体”模式:由决策模型负责选择和路由,复杂推理任务则交由大语言模型(LLM)处理。
与LLM相比,决策模型的结构和能力边界有所不同。LLM可以生成文本、代码、图像和视频;决策模型则是在预定义选项中作出选择。模型每次输出都会附带置信度分数,便于开发者评估结果可信度。不过,由于不具备文本生成能力,这类模型也无法解释自身为何作出相关判断。
AWS认为,近期出现的类型安全AI项目Jev已经展现出决策模型的潜力,但由于并行输出架构的限制,其在复杂推理任务上的表现仍有上限。SiliconANGLE称,Strands Decider 2B正是为改进这类局限而推出。
Strands Decider 2B基于Qwen3.5-2B打造。AWS没有沿用Qwen3.5-2B原有的LLM输出头,而是换装了一个约100万参数的定制指针头(pointer head)。
此次开源的是v.20版本,参数规模为20亿。AWS称,这一级别的模型足够轻量,可在本地设备上以低于150毫秒的延迟运行,同时仍能处理复杂决策任务。
目前,开发者可通过Hugging Face下载该模型;完整代码库、训练脚本及示例已在GitHub上提供。