JP Morgan Chase首席执行官Jamie Dimon将Anthropic生成式AI模型“Claude Mythos”点名为网络安全领域的高风险技术。
据金融媒体American Banker当地时间5日报道,Jamie Dimon当天在纽约出席Anthropic一场活动时表示,更先进的AI模型发现软件漏洞的速度,可能明显快于现有安全检测工具。
他还指出,银行多年来面临的最大风险之一始终是网络安全,而随着Anthropic推出Claude Mythos,相关威胁已不再停留在理论层面。Jamie Dimon形容,这一模型“极具威胁”,并认为Anthropic限制访问权限、为研究和应对争取时间,是正确做法。
在他看来,JP Morgan Chase大约可在一年内完成自身应用漏洞的应对和修复;但对于大型银行共同依赖的开源软件,仅靠单家机构处理终究有限,更现实的方式是开展协同修复。
Anthropic首席执行官Dario Amodei在同一场合也表示,相关风险正在加速显现。“威胁非常现实。”他说,Anthropic目前仅向参与“Project Glasswing”的12家大型企业开放Claude Mythos,同时也已向联邦政府通报相关担忧。
Anthropic披露,在Claude Mythos之前,其早期模型曾在Firefox中发现约30个漏洞,而Claude Mythos发现的漏洞数量已接近300个。这也引发外界担忧:先进AI一方面可用于加强网络防御,另一方面也可能显著提升攻击能力。
Anthropic还警告称,目前仍有相当一部分漏洞尚未完成修复。Dario Amodei表示,公司已识别出数万个漏洞,但只披露了其中一部分,原因是若在补丁发布前公开过多细节,可能被恶意行为者利用。他担心,一旦这类风险蔓延至学校、医院、银行等关键场景,并波及金融账户安全,可能引发大范围勒索软件攻击和财务损失。
随着风险上升,监管和应对机制建设也成为讨论焦点。Dario Amodei透露,他已就Claude Mythos带来的网络安全风险与美国财长Scott Bessent进行过“有意义的讨论”。他表示,美国财政部正在听取银行业及整个金融服务行业的意见,也在严肃看待这一问题,但目前的应对仍更接近临时性安排,尚未形成统一制度。
Anthropic同时提到行业间的技术差距。Dario Amodei称,其他AI公司大致落后约3个月,中国相关模型则落后6个月至12个月。他认为,这段时间构成了修补漏洞的“事实上的有限窗口期”。不过,他也表示,如果风险管理得当,Claude Mythos同样可以帮助开发者编写更安全的代码,从而带来更积极的结果。
对于外界有关算力不足的担忧,Dario Amodei予以否认。他表示,认为政府和民间同时使用Mythos会造成算力紧张,是一种误解。Claude Mythos占用的算力仅是Anthropic整体资源中的极小部分,即便有需要,将算力扩容至3倍甚至10倍也不存在问题。
对于是否应由政府部门在新AI模型发布前进行审批,Dario Amodei持谨慎态度。他表示,新技术治理需要把握平衡:既不能放任其处于“无规则地带”,也要警惕类似美国食品药品监督管理局(FDA)的审批机制过度拖慢创新。按他的说法,行业应继续快速推进,同时针对最重大的风险设置安全护栏,并建立相应流程。
谈及AI在金融机构内部的应用,Jamie Dimon表示,JP Morgan Chase自2012年起就已将AI用于住房抵押贷款相关业务。早期主要依靠机器学习分析海量数据,以识别人工难以发现的模式。此后,JP Morgan Chase设立了独立的AI部门,并将相关技术应用于风险管理、欺诈识别、营销、设计、备忘录撰写和文档审阅等多个环节。
对于未来软件市场格局,Jamie Dimon认为,传统软件公司与生成式AI模型大概率将在较长时间内并存。随着传统厂商持续将AI代理接入现有产品,市场更可能维持混合生态,而非由某一方彻底取代另一方。