据CNBC当地时间7日报道,Anthropic启动网络安全项目“Project Glasswing”,并率先向部分企业开放AI模型“Claude Mythos Preview”,用于发现软件安全漏洞。
首批参与方包括Apple、Google、Microsoft、Nvidia和Amazon Web Services(AWS)。Anthropic表示,这些企业将把该模型用于防御性网络安全工作。除上述公司外,CrowdStrike、Palo Alto Networks等40多家企业也已加入该项目。
Anthropic研究产品管理负责人Diane Penn表示,“Project Glasswing”是帮助网络防御人员提前接触并运用这类关键能力的第一步。Anthropic首席执行官Dario Amodei也在X(原Twitter)上发文称,这项技术一旦失控,风险显而易见;但如果应用得当,AI有望让互联网乃至整个世界比AI出现前更安全。
报道指出,Claude Mythos Preview并非专门针对网络安全场景训练的模型,而是一款具备编程和推理能力的通用模型。Anthropic称,Mythos模型此前曾发现多项过去难以识别的问题,其中包括一个已存在27年的OpenBSD漏洞。
Anthropic目前暂不打算向公众开放该模型。公司希望通过在受限范围内推进测试,在降低滥用风险的同时,验证未来应如何大规模部署Mythos级模型。
Anthropic表示,参与“Project Glasswing”的企业主要负责构建或维护关键软件基础设施,将借助该模型提升自身系统及开源系统的安全性。为推动项目实施,Anthropic还将提供最高1亿美元的支持额度。
Anthropic Frontier Red Team网络安全负责人Newton Cheng表示,此举的目标是在这类能力被更广泛使用之前,让企业先行熟悉并尝试应用。