Databricks标志。

据Axios当地时间16日报道,Databricks推出Unity AI Gateway,以帮助企业更好地管控AI支出。

Databricks表示,推出这款产品的原因之一,是此前发现部分客户曾在一个月内无意中产生数千万美元的AI费用。

该公司指出,随着AI代理数量不断增加,企业的软件支出,尤其是AI相关支出,正变得越来越难以预测。由于这类能够自主与模型交互的AI代理在缺乏人工监管的情况下加速普及,AI使用量随之攀升,相关成本也更容易突破企业预算。

相比之下,现有云成本管理工具通常要等到超支发生后才会发出提醒,事前控制能力有限。

Unity AI Gateway则侧重于前置管理。该产品支持设置AI支出上限,并提供防护机制;同时还能在多家供应商之间给出模型使用建议。对于消耗大量Token、或其实并不需要高价模型的任务,系统会推荐成本更低的替代模型。

此外,该网关还可监测用户会话,并据此反馈AI工具的使用效率。Databricks表示,如果员工使用效率较低,企业可以采取收回访问权限或切换至成本更低模型等措施。

关键词

#Databricks #Unity AI Gateway #AI支出管理 #预算控制 #AI代理 #多供应商模型建议 #模型推荐 #成本优化
版权所有 © DigitalToday。未经授权禁止转载或传播。