随着AI应用在金融业加快落地，美国大型银行正同步收紧相关风险控制。当前，多家银行开始为AI代理设定更明确的安全边界，限制其自主决策和执行权限，并要求面向客户的AI生成结果必须经过人工最终确认。如何防范意外行为、网络攻击等新型风险，正成为金融机构关注的重点。

据American Banker于9月14日（当地时间）报道，Bank of America（BofA）和PNC Financial Services Group（PNC）的管理层在纽约举行的Barclays全球金融服务大会上，介绍了各自的AI应用策略及风险管理安排。

BofA首席执行官Brian Moynihan表示，该行不会放任AI代理自行判断并直接采取行动。按照BofA的要求，面向客户的AI生成结果必须由员工确认后方可输出。同时，为应对潜在网络攻击，相关安全团队也在持续完善网络安全防护体系。

Moynihan指出，当前围绕AI安全的争论焦点在于，一旦赋予AI代理更大的自主行动权限，可能会带来哪些后果。他强调，BofA不会采取这种做法。

PNC同样对这一问题保持谨慎。PNC总裁Mark Wiedman表示，首要任务是确保AI代理的行为严格限定在既定范围内，只执行其被允许完成的任务，而不会作出额外行动。同时，公司也在防范AI为达成目标而表现得过于“激进”。

上述表态发布之际，AI行业围绕安全问题的争议再度升温。Anthropic研究员Jacob Coxon近日在离职时批评称，AI企业正围绕“自我改进型超智能”的开发展开不负责任的竞赛。随后，Anthropic首席执行官Dario Amodei也提及网络攻击、生物恐怖主义以及人类可能失去控制等风险，并认为有必要放缓AI模型能力提升节奏。

此前，出于降本增效考虑，美国银行业持续扩大AI应用。BofA长期加大对AI虚拟助手Erica的投入；PNC则在建设自有GPU算力基础设施，并推进小型语言模型（SLM）布局。随着AI应用竞争不断深入，金融业的关注重点也正从“落地速度”转向“如何在可控前提下使用”。