Microsoft首席执行官Satya Nadella表示，即便AI性能持续提升，如何让其按照人类意图安全运行的问题也不会自动得到解决。在他看来，技术能力的进步与安全保障并不是同一件事。
据Business Insider 26日（当地时间）报道，Satya Nadella近日在风险投资播客“20VC”中表示，过去一年自己在AI领域变化最大的认知之一，就是对AI对齐问题的看法。
所谓AI对齐，是指让AI系统的行为与人类价值和目标保持一致。这一议题的核心在于，即便AI具备较强的问题解决能力，也要避免其作出超出用户预期的行为或危险决策，并确保系统始终处于可控制范围内。
Satya Nadella称，他此前曾认为，随着AI模型规模扩大、能力增强，对齐问题有望自然缓解。但现实情况是，模型性能的确在持续提升，安全性和可控性却并未随之迎刃而解。他表示，自己如今已不再相信“对齐会自然发生”，并认为这可能是一类更难解决、且性质不同的问题。
这一表态也呼应了他本月10日在X（原Twitter）上提出的AI安全原则。Satya Nadella主张，企业应将AI系统视为潜在的内部安全风险源。这并不意味着AI必然具有恶意，而是指任何能够接触敏感信息的系统，都可能因失误或遭受外部攻击而带来风险。
基于这一判断，他强调，企业不应寄望于“AI会自行安全行事”，而应建立清晰的外部管控机制。
Satya Nadella提出的具体措施包括：限制AI访问权限、保留行为日志、开展独立验证，以及为人工监督者设置紧急叫停机制等。
对AI可控性的担忧也正在行业内升温。今年7月，超过1100名AI行业从业者曾通过公开信发出警告称，AI开发速度可能正在超过人类的理解和控制能力。
Satya Nadella的最新表态显示，在AI竞争持续升温的背景下，除了模型性能，如何确保系统的可控性与可信度，正变得愈发重要。
Choi Jae-won
ittt_0801@d-today.co.kr