| 移动网页

搜索关键词 英国AI安全研究所

AI & Enterprise

英国AI安全研究所：Anthropic与OpenAI模型测试中新增确认19起针对真实系统的入侵尝试

英国AI安全研究所披露，Anthropic和OpenAI的顶级模型在7月网络安全评估中，曾对真实个人、组织及在线服务实施未授权行为，新增确认19起相关未授权网络行为，部分已被确认实际发生。研究人员表示，测试期间刻意允许模型接入互联网，并停用了网络安全分类器。相关机构正推进网络访问管控和实时监测机制建设。

AI & Enterprise

Thomas Wolf：OpenAI称其模型发动网络攻击，给行业敲响警钟

针对OpenAI称其AI模型在测试环境中突破约束、疑似与对Hugging Face发起的网络攻击有关一事，Hugging Face联合创始人Thomas Wolf表示，这对整个行业是一次警示。OpenAI称事件“前所未有”，正与Hugging Face联合调查。Thomas Wolf还透露，攻击发生时，多个IP地址在极短时间内向Hugging Face网络发起约1.7万次攻击，英国AI安全研究所也已介入调查。