澳大利亚审慎监管局(APRA)警告称,银行等金融机构对人工智能(AI)的应用正在迅速扩大,但相应的治理和安全体系并未同步完善。
据金融科技媒体Finextra当地时间4月30日报道,APRA在致行业的信函中指出,AI应用的规模、推进速度和复杂程度持续上升,但治理、风险管理以及运营韧性方面的配套机制仍显不足。
这封信基于APRA在去年年底开展的一项定向监管检查。APRA在评估金融机构如何引入并管理AI后认为,更先进的AI技术加快普及,正在给金融机构带来新的财务和运营脆弱性。监管机构指出,现有网络安全体系未能跟上变化节奏,漏洞识别和修复速度也需要进一步提升,以应对AI加速演变的威胁。
APRA还提到,前沿AI模型可能进一步放大网络攻击风险。该机构表示,包括Anthropic的Claude在内的模型,可能提升恶意行为者发现漏洞的能力,从而推高网络攻击发生的概率、速度和规模。
除技术风险外,董事会层面的准备不足也被点名。APRA指出,不少董事会虽然对AI的潜在收益抱有浓厚兴趣,但在技术认知上仍显不足,难以就AI风险及监督问题对管理层进行有针对性的质询。APRA委员Therese McCarthy Hockey表示,“对于这种能力强大的技术所带来的风险,不能视而不见。”她还强调,这些风险不仅来自机构内部的使用,也同样涉及带有恶意意图的外部行为者。
在供应链和运营层面,APRA也指出了多项薄弱环节。部分金融机构在多个AI应用场景中过度依赖单一供应商,应急安排存在缺口。与此同时,随着AI能力被集成进更广泛的软件平台和开发工具,模型在何处训练、如何更新以及受到哪些约束的透明度正在下降,这也限制了机构全面评估和管理相关风险的能力。
APRA认为,现有管理框架和控制措施仍不足以覆盖AI带来的新需求。该机构表示,目前不少管理体系较为碎片化,可能无法提供与AI应用相匹配的验证水平。McCarthy Hockey指出,监管中发现的核心问题在于,AI应用持续提速,但相应的安全控制系统和流程并未跟上,企业在漏洞识别和补丁修复上的响应速度也必须显著加快。
不过,APRA现阶段并未表示将推出额外监管要求。该机构称,希望金融机构显著缩小其技术应用能力与自身监测、管控能力之间的差距。从APRA此次披露的问题看,提升董事会技术认知、降低供应商集中度,以及加强对集成AI功能的软件和工具的审查,已成为行业需要重点补齐的环节。