AI领域知名学者、Ami Labs董事长Yann LeCun反驳了“AI将脱离人类控制”的担忧。他表示，现有大语言模型（LLM）的安全控制路径存在明显局限，但若采用World Model等新架构，并配合技术层面的安全机制，AI系统的可控性仍有提升空间。

10月12日，Yann LeCun在首尔中区威斯汀朝鲜酒店举行的“产业AI全球合作”记者座谈会上，就AI风险与可控性相关提问作出上述回应。

他表示，所谓“有人突然发现实现人类级智能的秘密，机器人随即接管世界”的设想，更接近科幻情节。技术演进通常是多项创新和突破长期积累的渐进过程，而非一夜之间发生跃迁。

对于近期AI Agent引发的安全事故，Yann LeCun将问题更多归因于系统设计，而非AI本身。

他指出，这类事件更多反映出部署AI Agent的企业存在疏漏，例如未能正确使用Sandbox（隔离执行环境）等成熟技术。这类风险并非无解，在相当程度上本可通过既有手段加以控制。

不过，在他看来，当前主流LLM架构本身在可控性上存在更深层的限制。

Yann LeCun表示，试图让模型学习所有可能出现的问题，并通过对齐将其限制为只输出绝对无风险的回答，在现实中几乎不可行。相较之下，要诱导基于LLM的系统输出偏离预期的内容，并不是一件困难的事。

作为替代思路，他提出基于World Model构建“目标驱动型AI（Objective-driven AI）”。在这一框架下，AI先预测自身行为可能带来的后果，再依据预设目标和安全约束决定是否采取行动。

据介绍，Yann LeCun于2025年末共同创立AI初创公司Ami Labs，并启动World Model研发。该技术旨在通过学习真实世界规律来预测行为结果，弥补现有LLM在物理环境理解和行为控制方面的不足。

他强调，只要能够设计出有效的安全约束，AI系统的安全性就可以从机制上得到提升。这当然不只是一个简单的工程问题，但最终仍需通过工程化设计与验证来解决。

他还将AI安全比作飞机发动机设计：即便技术复杂、风险较高，仍可以通过精密设计和严格验证实现较高水平的安全性。

不过，Yann LeCun也承认，基于World Model的AI并不能完全消除风险。他指出，如果AI对现实世界的预测本身出现偏差，原本被判定为安全的行为在实际执行中也可能带来危险。

在网络安全层面，Yann LeCun判断，AI更可能强化防守一方的优势。

他表示，现有证据显示，AI对防守方的帮助大于对攻击者的帮助。

Yann LeCun进一步解释称，防守方在人力、资金和信息共享方面具备优势，而攻击者往往需要隐蔽行动，协作空间相对有限。不过他也补充称，从更长期看，AI的影响仍存在不确定性。