随着AI应用不断扩大,美国银行业正引入类似“营养成分表”的机制,以核查AI所用数据的质量及责任归属。[图片来源:ChatGPT]

随着AI应用不断扩展,美国银行业开始引入一种类似“营养成分表”的数据标注机制,以提高AI所用数据的透明度,明确质量状况和责任归属,降低因错误或过期数据导致AI输出失准的风险。

据 American Banker 当地时间9月8日报道,金融服务部门协调委员会(FSSCC)下设工作组已制定“数据营养成分表”(DNL)框架,供金融机构评估AI相关数据,部分银行已开始投入实际应用。该框架主要用于标注数据的来源、质量、时效性、完整性、偏差及更新频率等关键信息,帮助机构判断相关数据是否适合用于AI。

FSSCC为此提出基础型和高级型两级评估体系。基础型主要核查数据是否达到最低质量门槛;高级型则进一步评估数据采集、预处理、样本构成及维护管理等关键环节。不同业务场景对数据质量的要求并不相同。与生成营销文案等场景相比,授信、贷款审批等直接关联金融风险的业务,对数据质量的要求更高。

PNC Group已将传统模型风险管理与生成式AI风险区分管理。PNC数据与自动化负责人 Ned Carroll 表示,AI以概率方式生成答案,难以直接套用传统基于确定性假设的模型管理框架,因此更需要建立系统化的数据管理机制。

在责任划分方面,数据所有者需负责核验数据的准确性和时效性;对于信用评级机构、市场信息服务商等外部机构提供的数据,银行也要求对方给出相应的质量保证。与此同时,多家银行也不再直接照搬 ChatGPT、Claude 等通用模型,而是结合内部政策流程和自有数据,在具体业务场景中加以应用。

不过,DNL并非万能方案。金融建模研究所执行董事 Ian Schnoor 指出,DNL可以作为提升数据透明度的起点,但不同评估方法之间仍可能存在解读差异或被操纵的空间。整体来看,金融业的AI竞争正在从单纯比拼模型性能,转向比拼更可信的数据治理能力。

关键词

#美国银行业 #AI治理 #数据营养成分表 #DNL #FSSCC #数据质量 #模型风险管理 #生成式AI #责任划分
版权所有 © DigitalToday。未经授权禁止转载或传播。