Liner推出可自动路由大语言模型的Model API，旨在在保证回答质量的同时降低使用成本。图片来源：Liner

AI智能体初创公司Liner发布了一套可自动路由大语言模型（LLM）的新方案，目标是在保证回答质量的同时，降低企业AI系统的使用成本。

Liner于15日宣布推出“Liner Model API”。公司表示，该产品可根据用户提问的难度和类型，自动分配最合适的模型，并将LLM的Token成本降低50%以上。

Liner指出，目前不少企业在自建AI系统时，无论问题难易，都会统一调用高性能模型，由此带来不必要的基础设施支出。针对这一痛点，Liner Model API会先对问题进行分析，再决定调用何种模型：编码、数学和复杂推理等高难度任务交由高性能模型处理，常规问题则分配给性价比更高的模型。

该方案的另一卖点在于接入门槛较低。企业无需另行开发复杂的模型路由逻辑，只需替换现有API即可接入。Liner表示，这一编排能力基于其自建的模型评估体系，以及在实际服务运营过程中积累的数据开发而成。

除公开基准测试外，Liner还利用真实用户提问数据，对不同模型的表现进行了验证。Liner披露的结果显示，在全部问题中，约43%被分配至高性能模型，主要涉及编码、数学和复杂推理；其余57%则由性价比更高的模型处理。

公司称，通过上述方式，可在维持回答准确度的同时，将Token成本降低50%以上。

Liner CEO Kim Jin-woo表示，把所有问题都交给高等级模型处理，就像连最简单的计算也要动用超级计算机一样，成本并不合理。他还称，面对不断涌现的新模型，开发者往往需要反复验证性能与价格，并频繁更换模型，而Liner Model API正是为解决这一负担而推出。

关键词

#Liner #Model API #大语言模型 #模型路由 #企业AI系统 #模型评估 #Token成本 #成本优化
版权所有 © DigitalToday。未经授权禁止转载或传播。