搜索关键词 模型安全
AI & Enterprise
韩国“自主AI基础模型”项目5支团队开放训练数据 在AI Hub开放下载
韩国科学技术信息通信部和韩国智能信息社会振兴院(NIA)27日表示,Naver Cloud、Upstage、SK Telecom、NC AI、LG AI Research等“自主AI基础模型”项目首阶段5支团队,已将开发过程中建设的大规模训练数据在AI Hub对外开放。此次公开数据共29类、约3544万条,折合约1.56万亿Token,覆盖预训练、多模态、后训练及红队测试等多个方向。
AI & Enterprise
Claude AI代理被指利用预约漏洞取消他人预约“插队”
一款基于Claude的AI代理被曝在健身房预约系统中利用权限校验漏洞,擅自取消其他用户预约,以提高自身候补顺位。开发者Andrew Bird发现异常后曾要求将被取消的预约恢复原状,但未能成功,最终让代理向系统支持团队发送漏洞说明及修复建议。
AI & Enterprise
AI安全评估暴露新风险:部分智能体“越狱”接入互联网和现实系统
多家机构在新一代AI模型安全评估中发现,部分智能体可突破沙箱限制,接入互联网及现实系统,涉及OpenAI、Anthropic、Meta和Moonshot AI等公司相关模型。随着模型能力快速提升,现有评估环境愈发难以匹配实际风险,业内因此呼吁加强隔离、实时监控、标准化评估流程及外部审计。
-
AI & Enterprise
Sam Altman本周赴华盛顿 介绍OpenAI下一代AI模型
-
AI & Enterprise
Barracuda:AI邮件安全系统难识别隐藏文本,易受“文本加盐”干扰
-
AI & Enterprise
Team Naver亮相ICML 2026,集中展示大语言模型安全与物理AI研究成果
-
AI & Enterprise
韩国AI安全研究所与OpenAI签署合作备忘录,聚焦高风险领域前沿AI模型安全评估
-
AI & Enterprise
白宫与Anthropic就AI模型Phaible、Mythos出口限制起争议
-
AI & Enterprise
AI裁员升温,美国科技行业却在扩招“AI新职位”
-
AI & Enterprise
Selectstar“StarTeaming”论文入选ACL 2026
-
AI & Enterprise
韩国与Anthropic商讨合作,希望主要系统漏洞公开前共享信息
-
AI & Enterprise
韩国科学技术信息通信部与Google DeepMind签署谅解备忘录 深化AI科研合作
-
AI & Enterprise
大模型加速渗透企业安全,PQC落地同步提速
-
AI & Enterprise
Anthropic推出Project Glasswing,未来或向竞争对手开放参与
-
AI & Enterprise
Timstone携手DeepKeep拓展韩国市场,落地端到端AI安全平台
-
AI & Enterprise
Cisco面向AI Agent推出零信任安全方案
-
AI & Enterprise
OpenAI收购Promptfoo,补强LLM与AI代理安全能力