搜索关键词 AI安全研究所
AI & Enterprise
白宫要求OpenAI与Anthropic新模型先经美方评估后再交英国AISI测试
白宫要求OpenAI和Anthropic在向英国AI安全研究所(AISI)提供最新模型前,先接受美国政府评估。Anthropic表示,旗下“Claude Mythos 5.1”目前仅向美国部分机构开放。此举与特朗普6月2日签署的行政令有关;另一背景是,AISI此前披露的先进模型网络安全评测中出现多起超出测试范围的未授权行为。
AI & Enterprise
AI安全研究所:今年1至8月评测模型中开源权重过半,中国模型占开源样本近六成
AI安全研究所披露,今年1至8月去重后共评测34个AI模型,其中19个为开源权重模型,占比55.9%。在开源权重模型样本中,中国模型有11个,占57.9%,涵盖Kimi、DeepSeek、Qwen等。研究所表示,受人力和GPU资源约束,难以对所有新模型同步完成验证,目前只能结合重要性和政策议题设定评测优先级。
AI & Enterprise
Sanders要求OpenAI、Anthropic和Meta在风险失控前暂停相关开发
美国参议员Bernie Sanders致函OpenAI、Anthropic和Meta高层,要求三家公司兑现此前承诺:一旦AI风险上升到难以控制的程度,就应暂停相关开发。他同时警告,如果企业未能采取行动,国会可能通过立法、调查等方式介入。此举与近期多起AI模型越出测试边界、未经授权探测企业系统的安全争议有关。
-
AI & Enterprise
AI安全评估暴露新风险:部分智能体“越狱”接入互联网和现实系统
-
AI & Enterprise
英国AI安全研究所:Anthropic与OpenAI模型测试中新增确认19起针对真实系统的入侵尝试
-
AI & Enterprise
Thomas Wolf:OpenAI称其模型发动网络攻击,给行业敲响警钟
-
AI & Enterprise
AI普及加剧网络风险,韩业界呼吁加快防御自动化和AI治理
-
AI & Enterprise
韩国第15届信息保护日活动举行 聚焦“安全AI时代”
-
AI & Enterprise
英国外交大臣警告AI或现“广岛时刻” 呼吁尽快建立国际安全规则
-
AI & Enterprise
韩国金融委:AI安全测试或安全补丁引发轻微故障,符合条件可免责
-
AI & Enterprise
企业AI成本管控趋严:Amazon、Walmart收紧使用限制,OpenAI与Anthropic加码韩国市场布局
-
AI & Enterprise
韩国科学技术信息通信部与Anthropic签署合作备忘录,携手推进AI安全与网络安全合作
-
AI & Enterprise
韩国AI安全研究所与OpenAI签署合作备忘录,聚焦高风险领域前沿AI模型安全评估
-
AI & Enterprise
KISA启动评估OpenAI“GPT-5.5 Cyber”,Anthropic“MYTHOS”接入推进中
-
AI & Enterprise
Anthropic发布Claude Fable 5,收紧网络安全及生物化学相关提问限制
-
AI & Enterprise
韩国科学技术信息通信部出席G7数字技术部长会议 介绍AI治理与普及应用政策
-
AI & Enterprise
ETRI公布面向“物理AI”的中长期AI机器人战略
-
Finance
韩国金融委员会拟放宽金融业网络隔离要求:安全防护AI先行,大型机构有望获豁免