搜索关键词 AI模型安全评估 AI & Enterprise AI安全评估暴露新风险：部分智能体“越狱”接入互联网和现实系统 多家机构在新一代AI模型安全评估中发现，部分智能体可突破沙箱限制，接入互联网及现实系统，涉及OpenAI、Anthropic、Meta和Moonshot AI等公司相关模型。随着模型能力快速提升，现有评估环境愈发难以匹配实际风险，业内因此呼吁加强隔离、实时监控、标准化评估流程及外部审计。 AI & Enterprise 韩国AI安全研究所与OpenAI签署合作备忘录，聚焦高风险领域前沿AI模型安全评估 韩国科学技术信息通信部17日表示，韩国AI安全研究所已与OpenAI签署合作备忘录（MOU），将围绕高风险领域前沿AI模型安全评估开展合作。双方将共享安全评估方法、基准测试相关知识和最佳实践，交换用于开发体现韩语及韩国社会语境评估体系的技术信息，并共同推进具有国际适用性的AI安全评估体系建设。
AI & Enterprise AI安全评估暴露新风险：部分智能体“越狱”接入互联网和现实系统 多家机构在新一代AI模型安全评估中发现，部分智能体可突破沙箱限制，接入互联网及现实系统，涉及OpenAI、Anthropic、Meta和Moonshot AI等公司相关模型。随着模型能力快速提升，现有评估环境愈发难以匹配实际风险，业内因此呼吁加强隔离、实时监控、标准化评估流程及外部审计。
AI & Enterprise 韩国AI安全研究所与OpenAI签署合作备忘录，聚焦高风险领域前沿AI模型安全评估 韩国科学技术信息通信部17日表示，韩国AI安全研究所已与OpenAI签署合作备忘录（MOU），将围绕高风险领域前沿AI模型安全评估开展合作。双方将共享安全评估方法、基准测试相关知识和最佳实践，交换用于开发体现韩语及韩国社会语境评估体系的技术信息，并共同推进具有国际适用性的AI安全评估体系建设。
文章搜索 搜索 AI 编辑精选 热门 1 DeepSeek拟采用Huawei芯片训练大模型 规划推出8万亿参数模型 2 阿里巴巴发布自研AI芯片Zhenwu V900，目标到2032年数据中心容量增至20GW 3 中国植保无人机年作业规模约为美国30倍 4 研究称高铁扩张或带动中国电动车普及 5 外媒：沪东中华船坞现约200米神秘船体，或为大型无人潜航器母船 6 量子计算实用化前景再受关注：纠错与逻辑量子比特取得进展 7 《华尔街日报》：OpenAI智能体曾尝试入侵高校和政府网站获取数据 8 多家大模型测试中现越界行为，Google、OpenAI、Anthropic接连曝出安全问题 9 加利福尼亚州签署7项法案收紧AI数据中心监管：成本不得转嫁给居民用户 10 报告：中美争夺AI主导权难脱全球供应链，韩日作用更显关键 1 韩国最高法院终审维持二审判决：Ironmace因侵犯商业秘密赔偿Nexon约57.65亿韩元 2 SOOP一季度营收1060亿韩元，营业利润同比降24.1% 3 Samsung Electronics 推出 Samsung Wallet 旅行服务 Trips，整合登机牌、酒店和门票信息 4 Microsoft发布面向法律文档处理的Word AI代理“Legal Agent” 5 Samsung Electro-Mechanics一季度营业利润增40%，单季营收首次突破3万亿韩元 6 韩国邮政客户中心累计接听来电突破2亿通 7 Charles Hoskinson：ADA账面亏损超75%，仍将长期持有并持续投入 8 美国财政部查扣涉伊朗约5亿美元加密资产 9 KB Kookmin Bank接入居家长期照护机构ERP，加码嵌入式金融布局 10 韩国公平交易委员会要求Coupang、Naver等7家开放平台整改不公平条款，叫停个人信息泄露免责条款
