Anthropic首席执行官Dario Amodei警告称，一旦人工智能（AI）能力超越人类，可能为人类社会带来“难以想象的力量”，但社会是否已经做好准备应对这股力量，仍是未知数。

据科技媒体TechRadar当地时间3日报道，Amodei在今年年初撰写的一篇随笔中表示，超人类水平AI的到来不仅意味着技术进步，还将把“控制边界”和“理解边界”的问题推到台前。

他指出，问题的关键在于，当AI能力跨过人类水平后，许多长期停留在理论层面的预期可能加速变成现实。学界和科技行业一直认为，AI有可能生成新知识、实现自主行动，甚至具备自我改进能力。围绕这一前景的讨论，也迅速延伸至“生存风险”层面——如果未来AI强大到一定程度，人类是否还能对其实施有效约束，将成为现实问题。

Amodei认为，人类未必已经准备好使用自己即将创造出的技术。他表示：“人类正站在接收一种难以想象的力量的门槛上，但我们是否已经具备处理这种力量所需的成熟度，仍不明确。”在他看来，技术竞赛越是升温，社会层面的应对能力就越可能成为比性能提升本身更棘手的问题。

在应对路径上，Amodei主张的不是叫停研发，而是重塑研发的前提和边界。他强调，应在民主制度框架下推进负责任的AI开发；同时，也应对威权主义或敌对国家发展其自身形态的AI设置障碍。随着AI主导权竞争日益上升为国家战略议题，他认为，真正重要的不只是技术本身，还有由谁来开发、在什么治理框架下开发。

报道称，这一表态也与Anthropic地位的变化相互呼应。进入今年以来，Anthropic与竞争对手OpenAI一道持续受到市场关注。与此同时，Amodei长期公开讨论AI的发展方向及社会应对方式，近期的警示语气也进一步增强。

目前，市场和行业最关注的问题之一，仍是AGI（通用人工智能）何时到来。围绕AGI的研发竞赛已经展开，但学界对时间窗口的判断分歧很大，有观点认为最早可能在今年下半年出现，也有观点认为还需要数十年。OpenAI首席执行官Sam Altman也曾多次提及AGI的到来。

相关讨论也在不断具体化。计算机科学家Ray Kurzweil预测，AGI可能在2029年实现，此后数十年内或将出现人工超级智能。不过，争议并不只在于时间表本身。即便超人类水平AI最终成为现实，社会是否准备好承受由此带来的变化，仍是另一道更难回答的问题。

报道认为，Amodei此次发声，与其说是在给AI产业的乐观情绪降温，不如说是在研发竞赛加速之际，再次追问技术发展究竟应建立在怎样的控制原则和政治条件之上。在他看来，比起AI本身将释放多大力量，更重要的是，这种力量最终由谁掌握，又将在何种制度框架下被使用。