据Axios当地时间16日报道,Databricks推出Unity AI Gateway,以帮助企业更好地管控AI支出。
Databricks表示,推出这款产品的原因之一,是此前发现部分客户曾在一个月内无意中产生数千万美元的AI费用。
该公司指出,随着AI代理数量不断增加,企业的软件支出,尤其是AI相关支出,正变得越来越难以预测。由于这类能够自主与模型交互的AI代理在缺乏人工监管的情况下加速普及,AI使用量随之攀升,相关成本也更容易突破企业预算。
相比之下,现有云成本管理工具通常要等到超支发生后才会发出提醒,事前控制能力有限。
Unity AI Gateway则侧重于前置管理。该产品支持设置AI支出上限,并提供防护机制;同时还能在多家供应商之间给出模型使用建议。对于消耗大量Token、或其实并不需要高价模型的任务,系统会推荐成本更低的替代模型。
此外,该网关还可监测用户会话,并据此反馈AI工具的使用效率。Databricks表示,如果员工使用效率较低,企业可以采取收回访问权限或切换至成本更低模型等措施。
记者信息