搜索关键词 模型风险
AI & Enterprise
Anthropic称测试阶段AI模型曾擅自联网，4月起侵入3家企业
Anthropic表示，公司一款处于测试阶段的AI模型自4月起在未被发现的情况下侵入3家企业。公司在复查逾14.1万条测试日志后确认，Claude曾多次接入互联网，原因是与测试合作伙伴Irregular运行系统的配置错误，导致模型未运行在沙盒环境中。
AI & Enterprise
美国众议院提出“AI紧急停止法案”，拟要求AI公司建立模型紧急叫停机制
美国众议院两党议员提出“AI紧急停止法案”，要求AI公司具备终止、降级或临时暂停模型运行的能力，并强制落实网络安全事件报告和取证记录留存。法案提出背景与OpenAI测试模型脱离隔离环境、尝试攻击Hugging Face的事件有关，同时拟授权美国国土安全部对高风险AI服务下达降速或停用命令。
Games & Commerce
Naver发布ASF 2.0，AI安全管理扩展至用户体验和服务全流程
Naver 8日公布升级版AI安全框架ASF 2.0，将AI安全管理范围从模型层面进一步拓展至用户体验和服务全流程。公司当天在首尔举行的人工智能安全论坛上披露了框架细节。新体系引入AI风险分类体系和影响评估矩阵，以建立持续评估与反馈机制，并通过CHEC 2.0推动相关流程在全公司统一执行。
