Wana Tun,OpenAI应用安全AI专家。图片来源:DigitalToday,记者 Seulgi Son

OpenAI警告称,开源权重AI模型的安全限制相对较少,一旦经过微调并追加算力投入,便可能具备接近前沿模型的网络攻击能力,企业需提前防范其被滥用的风险。

9月7日,在首尔瑞草区Samsung金融园区举行的Aim Intelligence“AI Risk Conference Seoul 2026”上,OpenAI应用安全AI专家Wana Tun表示,真正值得警惕的并不是前沿模型主动发起网络攻击,而是恶意攻击者对开源权重模型进行微调后,可能造成较大破坏。

Wana Tun指出,即便不是前沿模型,只要经过足够训练并消耗更多token,攻击能力同样会明显提升。他评估,这类模型与前沿模型之间的智能能力差距约为6至8个月。

他还表示,借助AI实施网络攻击的方式,正快速向更高程度的自主化演进。

Wana Tun称,2022年,AI更多被用作编程辅助工具;而如今,AI不仅能够发现漏洞、编写利用代码,甚至还可以自主执行网络攻击。

他解释说,AI可以连续完成侦察、扫描、在安全控制环节寻找薄弱点,并进一步控制网络等任务。多个子代理还可以并行运行、相互交换信息,从而持续发起长时间攻击。

在他看来,传统企业安全体系与AI驱动攻击之间的对抗,已呈现出“非对称战争”的特征。Wana Tun表示,人类在处置安全事件时只能实时处理有限信息,而AI则能够同时处理海量上下文信息。AI攻击之所以更具优势,关键在于其可以将多项任务并行推进并串联执行。

基于这一判断,他强调,企业防御体系也应相应转向以AI代理为核心的架构。

Wana Tun表示,企业应部署用于监测网络变化、分析安全事件的AI代理,以提升威胁检测和响应速度。从发现漏洞、验证其是否真实可被利用,到生成补丁,更多环节都应交由AI完成,而人类则聚焦于最终判断。

他补充说,在AI已经能够对环境发起攻击、彼此通信并联动执行任务的情况下,企业也需要以“代理化”思路应对网络威胁。

OpenAI认为,与其用AI完全替代既有网络安全方案,更可取的做法是将AI代理嵌入现有安全体系之中。

Wana Tun表示,攻击者已经开始以“机器速度”行动,企业的安全工作流也应尽快转型,不能只停留在发现漏洞,而应进一步完成可利用性验证与补丁生成,并通过自动化实现防御闭环。

关键词

#OpenAI #开源权重模型 #AI代理 #网络安全 #AI风险 #微调 #前沿模型 #攻击自动化 #安全自动化
版权所有 © DigitalToday。未经授权禁止转载或传播。