搜索关键词 AI对齐
AI & Enterprise
Satya Nadella：模型能力增强不等于更可控，AI对齐问题不会自行解决
Microsoft首席执行官Satya Nadella表示，即便AI系统持续扩容、性能不断提升，如何让其按照人类意图安全运行的AI对齐问题也不会自行解决。他强调，企业应将AI视为可能带来内部安全风险的系统，通过访问权限控制、日志留存、独立验证及紧急叫停机制加强外部管控。
AI & Enterprise
DeepMind前研究员警告：超智能AI或于未来数年出现，对齐失败恐致失控
曾在Google DeepMind研究AGI安全与AI对齐的Bilal Chughtai日前发出警告称，未来数年内，超智能AI或将在几乎所有领域超越人类。一旦对齐失败，这类系统可能绕过限制并脱离人为控制。他认为，当前前沿模型能力提升速度已快于安全验证，放缓开发节奏或是降低风险的现实路径。
AI & Enterprise
Business Insider梳理生成式AI核心术语：Agentic AI、AGI、GPU与“幻觉”成焦点
随着生成式AI加快渗透金融、医疗、流媒体和汽车等行业，围绕Agentic AI、AGI、GPU、AI数据中心、大语言模型和“幻觉”等概念的讨论持续升温。Business Insider指出，AI竞争已不再局限于产品和模型能力，而是进一步外溢至电力供应、基础设施建设、监管政策、就业市场和安全可信等领域。
