曾任Ripple首席技术官(CTO)的David Schwartz的AI生成形象。图片来源:Reve AI

美国前证券交易委员会(SEC)主席Gary Gensler于2020年发表的一篇论文,近日再次引发市场关注。该论文曾警示,深度学习在金融行业加速普及,可能成为新的系统性风险来源。如今,随着AI Agent开始更深度地进入金融决策环节,这一讨论被重新推上台面。

据区块链媒体U.Today当地时间29日报道,曾任Ripple首席技术官(CTO)的David Schwartz就这篇旧文引发的讨论作出回应。他表示,论文中的多数观点“站得住脚”,但对其中部分延伸判断并不认同。

这轮讨论的起点,是X用户Andrew Curran重新分享了Gensler于2020年发表的论文。Curran指出,Gensler当时已提出,若深度学习在金融业被大规模采用,金融体系脆弱性以及整体经济风险都可能上升;只是这一风险提示,在当时提出得过早。

公开资料显示,Gensler在出任SEC主席前,于2020年11月与麻省理工学院(MIT)斯隆管理学院的Lily Bailey共同发表论文《深度学习与金融稳定》。

论文认为,一旦深度学习被广泛用于金融机构的数据分析和决策流程,现有监管框架未必足以覆盖由此产生的新型系统性风险。其中一个核心判断是,如果大量金融机构依赖相似的模型和数据,原本局限于个别机构的判断偏差,可能演变为全市场范围内的同步行动,并在相互强化中放大风险。

随着AI Agent快速渗透金融场景,这一观点再度受到关注。Curran援引Apollo首席经济学家Torsten Slok的分析称,AI Agent若同时为用户资金作出相似的配置决策,可能引发类似“挤兑”式的市场波动,进而威胁金融稳定。

报道指出,风险的复杂性在于,AI Agent一旦不再只是提供信息,而是具备自主判断、制定计划并执行多步骤金融交易的能力,市场面临的连锁反应将明显增加。届时,成千上万甚至数百万套AI系统若基于相近数据同步行动,即便单个系统本身判断并无明显失误,系统间的相互作用仍可能加剧市场波动。

对于这类担忧,Schwartz并未否认。他表示,Gensler论文中的很多内容“说得通”,并认同自动化决策系统在市场中出现同向运行的可能性。

不过,他并不认同“AI越智能,越可能作出非理性行为”这一说法。Schwartz表示,将“AI因为太聪明而做出愚蠢决定”作为逻辑前提,本身就存在问题。

报道认为,当前金融行业面对的风险,已难以单纯用AI智能水平的高低来解释。相比单个模型是否足够准确,同质化AI系统在市场中同步作出相同决策所带来的后果,正成为更值得警惕的新变量。

这也正是Gensler 2020年论文再次被讨论的重要原因之一。随着AI Agent自主性持续提升,金融机构和监管部门除了评估技术部署速度与单一模型表现,还需同步审视大规模自动化决策可能对整体市场带来的集体性影响。

关键词

#Gary Gensler #SEC #深度学习 #金融稳定 #AI Agent #系统性风险 #Ripple #David Schwartz #MIT
版权所有 © DigitalToday。未经授权禁止转载或传播。