图片来源:ChatGPT

上周,美国多家大型科技公司、金融机构以及关键IT基础设施接连发生大范围系统故障,一度引发市场和公众对黑客攻击、AI失控的担忧。当地时间13日,美国联邦航空局(FAA)甚至一度下达全美停飞令,相关猜测迅速在社交平台发酵。

故障监测平台DownDetector数据显示,截至16日的近一周时间里,美国各类服务异常和系统问题报告接近600万条。Axios称,这一数字创下近一年来的单周新高。

在此背景下,Markwayne Mullin甚至提到,负责编写和修复代码的AI系统,可能对本轮故障有所影响。此前,因10月曾出现大量利用AI黑客工具发起的攻击事件,外界一度将其称为“Black October”,因此相关担忧并非毫无来由。

不过,随着各方陆续说明情况,事件原因逐渐明朗。Microsoft、FAA、Chase、美国国家安全局(NSA)、Apple以及航空公司United均表示,近期故障并非由黑客攻击引发,也不是AI失控所致。多数问题最终都指向系统升级、补丁部署或既有设备承载能力不足。

据《华盛顿邮报》报道,政府和银行业相关人士向议员通报称,此轮故障并非网络攻击造成,而是在修补由AI模型发现的安全漏洞时,补丁被集中部署,短时间内给系统带来过大负载,进而触发异常。

Axios援引专家观点称,近期这些故障“与黑客攻击或网络灾难相去甚远”,不少问题更像是软件补丁流程本身出了差错,而且各起事件之间也很难找到明确关联。

从目前披露的信息看,不同机构的故障原因并不相同。Chase表示,问题源于内部软件Bug,导致与其他银行之间的交易处理延迟;United仅称系技术问题;FAA解释称,短时间内数据流量激增,老旧设备不堪负荷;Microsoft则是在此前进行网络容量升级过程中出现问题,最终触发服务异常。

虽然这些故障并非由黑客或AI直接引发,但也不能说与AI完全无关。

一些观点认为,这一轮集中出现的IT故障,折射出AI加速漏洞发现后带来的新压力:一方面,网络攻击持续升级;另一方面,为堵住安全漏洞而密集上线的补丁,也在推高系统运维风险,“Bugmageddon(漏洞末日)”的说法因此再度受到关注。

《华尔街日报》(WSJ)报道称,“IT人员夜不能寐,网络安全工作量已经大到连事故响应服务商都开始拒接新单”。WSJ指出,服务中断本身并不罕见,但AI正在让局面变得更加复杂——网络威胁与为应对威胁而频繁推进的系统更新,越来越难清晰区分。

《华盛顿邮报》也援引一名听取政府和银行业通报的国会相关人士称,随着AI模型发现大规模漏洞,“必须立即打补丁”的压力正在不断上升,越来越多系统正在一次性承受超出自身负荷的补丁部署。

曾任白宫国家安全副助理顾问、现任硅谷风投Andreessen Horowitz(a16z)普通合伙人的Anne Neuberger表示,当前主要面临两大问题:一是像FAA这类长期被认为系统老旧、亟需大规模升级的关键基础设施;二是已经出现能够借助AI发现代码安全漏洞的攻击者。

Anne Neuberger近日在WSJ撰文称,AI正在缩短从漏洞发现到发起攻击之间的时间窗口,“如果防守仍停留在人类的速度,就会在这场竞赛中落后”。她强调,银行、医院以及电力、供水等基础设施的防护体系需要尽快升级。

Salesforce首席信息安全官(CISO)Ian Mulholland也在WSJ表示,正因为“AI末日论”相关报道过多,普通公众一旦看到系统停摆,即便实际并非遭遇网络攻击,第一反应也往往会归因于黑客或AI。

从更长期的角度看,随着AI更快发现漏洞,补丁修复的时效压力和部署风险都在同步上升。

补丁修复看似只是“尽快完成”的工作,但现实远没有这么简单。补丁可以很快开发出来,真正困难的是如何平稳部署到现有系统之中;而部署过程本身就可能带来新的问题,因此IT团队往往需要反复评估后才能上线。近期多起系统故障,恰恰就出现在这一环节。WSJ援引网络安全专家的话称,补丁可能带来的最坏结果之一,就是服务中断。

Axios还提到,AI辅助编码的普及也是不可忽视的变量。AI确实提升了工程师开发和迭代软件的速度,但围绕新代码安全性和可靠性的审查流程,却可能因此出现瓶颈;一旦审核能力或系统承载能力跟不上,疏漏就可能演变成事故。

俄亥俄州立大学综合系统工程名誉教授David Woods表示,复杂系统在没有充分评估“它会如何失效”的情况下,被持续要求以更快速度和更低成本运行,“交叉验证、压力测试和安全防护机制正在被一步步削弱”。

不过,也有人反对把责任归咎于AI本身。Honeycomb技术研究员Liz Fong-Jones表示,这些事件之间几乎没有共同点,“眼前这些故障,只是持续数十年的连锁性系统失灵现象的一部分,与是否使用AI编写或部署代码并没有直接关系”。

关键词

#美国系统故障 #FAA #Microsoft #Chase #NSA #United #软件补丁 #系统升级 #AI辅助编码 #Bugmageddon(漏洞末日)
版权所有 © DigitalToday。未经授权禁止转载或传播。