Palo Alto Networks首席执行官Nikesh Arora表示,要求整个行业放慢人工智能(AI)研发节奏并不现实。
他在当地时间24日接受CNBC采访时称,各家公司在判断和行动上并不一致,要在全行业推动统一“降速”几乎难以落地。
Arora在CNBC一档播客中说,不可能所有参与者都会自觉放慢脚步,部分企业反而可能选择抢跑。因此,不应一概要求处于前沿的AI公司按下暂停键。相比之下,更重要的是确保产品只有在被确认安全的前提下才能发布。
上述表态正值AI安全与研发节奏之争持续升温之际。此前,Anthropic一名研究人员曾提出“AI导致人类灭绝的概率为10%”的观点;另有一名研究人员则指责Anthropic与OpenAI没有负责任地行事,并已离职。此后,Anthropic首席执行官Dario Amodei公开撰文,主张放慢AI模型性能提升速度。Sam Altman、Elon Musk和Demis Hassabis也对这一立场表示支持。
Arora认为,这类“降速论”也可能被外界解读为争取监管层和立法者支持的做法。他此前曾在X(原Twitter)上将相关主张称为“ninja move”。他在采访中进一步解释说,之所以使用这一说法,是因为这些AI公司看起来像是在争取监管和政界的同情,从而在责任问题上获得某种事实上的免责空间。
不过,Arora强调,现阶段比“降速”更重要的是建立清晰的安全发布标准。他表示,如果产品被判断为不安全,就不应对外发布。同时,他也指出,目前外界尚不清楚,应通过何种标准或测试体系来验证AI研发速度是否应被限制。
对于“AI可能导致人类灭绝”的警告,Arora给出了较低评估。他表示,这种情形发生的可能性“非常低”,并不认同“灭绝概率为10%”的说法,称这一概率“很低,极其低”。在他看来,行业真正的责任,是建立必要的护栏和安全机制,确保模型被用于正确目的。
这一观点也与近期部分业内人士的表态形成呼应。Nvidia首席执行官Jensen Huang表示,与其增加新的监管,不如由模型开发方对自身产品安全承担责任。美国财长Scott Bessent也称,AI开发商不应期待政府提供责任保护,而应自行承担相应责任。
另一方面,Dario Amodei提出的方案还包括围绕AI研发节奏展开全球协作,并与中国进行一定程度的合作。但Arora认为,在推进这类讨论之前,美国内部首先需要明确自身目标。他表示,美国政界与企业管理层之间本就存在分歧,“在讨论与其他国家协调之前,应该先弄清楚我们自己到底想要什么”。
目前,美国与中国正围绕AI主导权展开竞争。美国一直试图限制中国获取半导体等关键技术,这也成为两国关系紧张的重要背景。在这种情况下,围绕AI研发节奏的国际协作能否真正落地,仍将是后续值得关注的议题。