Anthropic就“AI蠕虫”实验引发安全圈争议。图片来源:Reve AI

据《卫报》18日报道,Anthropic红队近日公布了一项“AI蠕虫”实验:研究人员尝试利用联网智能电视构建可自我复制、持续传播的恶意AI程序。相关结果披露后,安全行业围绕这类风险是否具有现实威胁展开争论。

报道称,Anthropic的攻击性研究团队开发了一种可通过联网智能电视扩散的恶意AI程序。该程序被分散部署到15台电视上,并调用各设备的部分算力维持运行。研究团队表示,类似机制理论上也可能在其他常见设备上实现。

所谓“蠕虫”,是指无需诱导用户操作、即可自行复制并传播的恶意代码。NotPetya、WannaCry等蠕虫都曾在全球范围内造成严重破坏。研究团队认为,相较于手机或笔记本电脑,智能设备获得系统更新和安全补丁的频率更低,因此一旦成为传播载体,防御难度可能更大。

该团队还设想,AI蠕虫未来或可自行研究新近披露的漏洞,并迁移至其他硬件平台继续扩散。不过研究人员也承认,要让这类AI蠕虫具备实际攻击能力,前提是其能够在性能较低的设备上执行更多任务。按其判断,目前技术尚未达到这一水平,但如果按照现有进展速度推进,年内或许就可能具备实现条件。

AI安全领域早期从业者、现任AI安全初创公司RunSybil负责人Ariel Herbert-Voss表示,AI模型具备“运行中学习”的特性,这使其与传统病毒存在明显差异。

曾在Meta负责AI安全开发的Joshua Saxe则表示,他担心安全行业尚未足够严肃地看待这类现实风险。

不过,反对声音同样强烈。多伦多大学博士生Jonas Guan认为,Anthropic展示的这类蠕虫传播速度很慢,行为模式可预测、可检测,因此可以在传播链条的多个节点被拦截。《卫报》援引业内人士观点称,只要落实强密码、双因素认证等基础安全措施,就足以阻挡大多数此类蠕虫。

SentinelOne研究副总裁Juan Andres Guerrero-Saade评价称,这一实验“既缺乏可行性,也没有影响力”,更像是“炫技式黑客”行为,只会进一步助长“AI模型拥有自我意志”的荒诞末日论。

截至发稿,Anthropic尚未回应《卫报》的采访请求。

关键词

#Anthropic #AI蠕虫 #智能电视 #网络安全 #红队测试 #双因素认证 #SentinelOne
版权所有 © DigitalToday。未经授权禁止转载或传播。