搜索关键词 人类控制
AI & Enterprise
学者反对放缓前沿AI研发：更强模型本身就是“防火墙”
Northwestern University法学院教授John O. McGinnis日前在《华尔街日报》撰文表示，前沿AI不仅带来风险，也可能成为防御风险的重要工具。他将AI风险分为“失控”和“被恶意利用”两类，并指出放缓前沿AI研发或许有助于降低前一类风险，却可能削弱针对犯罪、恐怖主义和国家层面滥用AI的防御能力。
AI & Enterprise
Yann LeCun：AI“失控论”更像科幻，World Model或提供新路径
Ami Labs董事长Yann LeCun于10月12日在首尔表示，关于AI突然失控并接管世界的担忧更接近科幻叙事。他认为，主流大语言模型难以依靠穷尽式对齐实现可靠控制，更可行的方向是基于World Model构建目标驱动型AI，并通过约束设计和工程验证提升系统安全性。
AI & Enterprise
欧盟：现行《AI法》可覆盖高性能AI模型失控风险
欧盟表示，高性能AI模型可能出现的失控风险，可在现行《AI法》框架下予以应对，暂无需额外推出新规。欧盟官员称，该法覆盖模型全生命周期监管。目前，欧盟委员会已要求30多家AI企业提交安全保障措施详情，相关审查工作正在推进，并已进入执法核验阶段。
-
AI & Enterprise
Nadella：AI系统控制权必须置于模型之外，企业责任不能转嫁
-
AI & Enterprise
Satya Nadella称先进AI系统应设人工“紧急制动” 可随时停机并隔离
-
AI & Enterprise
韩国国会AI政策国政监查：Bae Kyung-hoon称将以国家AI项目总负责人身份推进工作
-
AI & Enterprise
韩国拟研究AI“紧急停止”机制 并推进前沿AI应对网络威胁
-
AI & Enterprise
韩国专家谈AI治理：不必放慢研发，关键是提升“责任速度”
-
AI & Enterprise
美中专家呼吁为军用AI设限：核指挥控制通信体系（NC3）与核武决策须由人类决定
-
AI & Enterprise
普林斯顿学者：AI安全不能仅靠“对齐”，应建立四层防线
-
AI & Enterprise
DeepMind前研究员警告：超智能AI或于未来数年出现，对齐失败恐致失控
-
AI & Enterprise
AI“灭绝风险”言论引发争议：风险警示还是恐慌营销
-
AI & Enterprise
OpenAI未公开AI代理测试中据称入侵Hugging Face，安全风险再引关注
-
AI & Enterprise
Sam Altman警告：AI控制权或集中于少数企业或个人手中，过度监管恐适得其反
-
AI & Enterprise
FT：AI“越狱”和入侵事件频发，专家称并非失控而是能力外溢
-
AI & Enterprise
韩国科学技术信息通信部发布《AI智能体时代生存手册》
-
AI & Enterprise
Xi Jinping提出扩大对发展中国家人工智能合作 反对过度扩大国家安全概念
-
AI & Enterprise
OpenAI呼吁建立全球AI治理机构：AI监管应参照核能模式