| 移动网页

搜索关键词 可验证性

AI & Enterprise

Nadella：AI系统控制权必须置于模型之外，企业责任不能转嫁

Microsoft CEO Satya Nadella近日发文讨论超级智能时代的信任与安全架构。他指出，企业不能将AI执行任务所产生的责任转嫁给模型供应商，必须把访问权限和行为控制置于模型之外。针对治理路径，Nadella主张无论是闭源模型还是开源权重模型，都应按“内部人风险”进行管理，并提出模型多样性、全面可观测、可验证性、独立控制、独立审计、隔离和事故披露七项系统设计原则。

AI & Enterprise

Anthropic CEO呼吁放缓前沿AI开发：6至12个月内或将“掌控整个互联网”

Anthropic首席执行官Dario Amodei警告，随着AI能力加速跃升，未来6至12个月内相关系统或将具备“掌控整个互联网”的能力。他提出在前沿AI公司引入独立第三方安全评估者，并给予员工级访问权限，作为放缓开发节奏的核心措施。对此，Sam Altman、Elon Musk等业内人士公开表示支持，OpenAI也承诺推进类似机制。

AI & Enterprise

ETRI与韩国陆军士官学校签署合作备忘录 共同推进国防AI与AI眼镜技术研发

韩国电子通信研究院（ETRI）8日与韩国陆军士官学校签署谅解备忘录（MOU），将围绕国防AI开展联合研发、军事应用概念研究及实证验证。合作重点涵盖AI眼镜“AI-in-Glass”、个人AI代理、空间智能、低功耗高分辨率显示、增强现实（AR）显示和便携式算力设备等，面向战斗员态势感知和指挥决策支持。