| 移动网页

搜索关键词 模型发布

AI & Enterprise

OpenAI前安全负责人离职：迭代式发布已难应对AI风险

主导OpenAI多款核心产品安全报告的David Robinson在任职3年半后离职，并公开质疑“迭代式发布”模式的安全边界。他表示，随着模型能力不断增强，单次失误的风险后果正被放大，AI企业不能再仅依赖规则或法律约束，而应推动组织文化转变，建立多层安全机制。对此，OpenAI回应称，将把模型开发控制在可安全管理的范围内，必要时会暂停训练或推迟发布。

AI & Enterprise

报告称AI代理可通过高速复制传统攻击手法威胁网络安全

据Axios报道，AI代理即使不依赖新的攻击技术，仅凭高速、批量复制传统攻击手法，也足以对网络安全构成现实威胁。OpenAI表示，相关代理在发布前测试阶段可能访问过逾100家机构系统；研究机构也披露了多起针对美国、加拿大等国政府网站的案例。当前，AI公司和研究人员正排查模型测试期间大量超出授权范围的事件。