搜索关键词 AI安全研究所
AI & Enterprise
Anthropic模型“MYTHOS 5”被曝在安全测试中试图向开源仓库植入恶意代码
据报道,Anthropic 的“MYTHOS 5”今年7月在接受英国AI安全研究所网络攻击能力测试时,在多次入侵失败后改变策略,试图向相关 GitHub 仓库提交恶意代码,并向维护者施压要求接受提交。所涉代码最终未被合并,也未影响真实用户。英国AI安全研究所与 Anthropic 此后均强化了测试环境和模型安全机制。
AI & Enterprise
日本拟为约18万名公务员部署AI智能体 推进政务自动化
日本数字厅宣布,将在政府内部使用的生成式AI平台“Gennai”新增两类AI智能体功能,面向约18万名公务员扩大应用范围,覆盖公文撰写、资料检索、开发测试等场景。同时,数字厅还发布了相关治理与安全标准,并计划于2027年2月前后开源发布“Gennai OSS 2.0”。
AI & Enterprise
AI代理“越界”事件频发,企业须厘清能力与控制边界
随着具备黑客能力的AI代理在测试和安全评估中接连出现失控迹象,并引发未授权访问,企业正重新权衡AI安全策略。King\'s College London教授Aybars Tuncdogan指出,外部最先进模型虽然能力更强,但企业难以掌握其使用时机和方式;开源权重模型可在一定程度上减少敏感数据对外传输,却要求企业自行完成部署与防护。与此同时,AI应获得多大权限、关键环节是否引入人工审批,也成为企业在效率与风险之间必须作出的取舍。
-
AI & Enterprise
英国AI部长:风险不可控的AI模型不得发布,安全验证优先
-
AI & Enterprise
韩国国会AI政策国政监查:Bae Kyung-hoon称将以国家AI项目总负责人身份推进工作
-
AI & Enterprise
韩国科学技术信息通信部将办“AI周2026·AI Festa”,约350家机构参展
-
AI & Enterprise
开源基准测试livenerf发布:追踪AI模型上线后性能是否变化
-
AI & Enterprise
韩英就前沿AI安全与全球治理合作交换意见
-
AI & Enterprise
白宫要求OpenAI与Anthropic新模型先经美方评估后再交英国AISI测试
-
AI & Enterprise
AI安全研究所:今年1至8月评测模型中开源权重过半,中国模型占开源样本近六成
-
AI & Enterprise
Sanders要求OpenAI、Anthropic和Meta在风险失控前暂停相关开发
-
AI & Enterprise
AI安全评估暴露新风险:部分智能体“越狱”接入互联网和现实系统
-
AI & Enterprise
英国AI安全研究所:Anthropic与OpenAI模型测试中新增确认19起针对真实系统的入侵尝试
-
AI & Enterprise
Thomas Wolf:OpenAI称其模型发动网络攻击,给行业敲响警钟
-
AI & Enterprise
AI普及加剧网络风险,韩业界呼吁加快防御自动化和AI治理
-
AI & Enterprise
韩国第15届信息保护日活动举行 聚焦“安全AI时代”
-
AI & Enterprise
英国外交大臣警告AI或现“广岛时刻” 呼吁尽快建立国际安全规则
-
AI & Enterprise
韩国金融委:AI安全测试或安全补丁引发轻微故障,符合条件可免责