人工智能（AI）可能通过多种路径威胁人类生存。从超智能失控，到生物武器、核战，再到社会崩溃，相关讨论近年来持续升温。不过，与“AI直接攻击人类”的想象相比，更现实的风险或许来自大规模失业、虚假信息扩散以及政治分裂加深，进而冲击社会秩序。

据日媒Gigazine当地时间2日报道，新南威尔士大学AI研究员Toby Walsh梳理了AI可能将人类推向灭绝的5种情景，并强调应结合当下技术发展水平和现实社会影响，判断这些风险的实际可能性。

第一种情景，是超智能AI以人类无法预测的方式消灭人类。其核心担忧在于，一旦出现能力远超人类的系统，人类或将难以提前理解其行为逻辑和目标设定。

不过，现阶段AI即便已在部分领域展现出较强能力，也不意味着全面超越人类的超智能会很快出现。Walsh认为，从理论设想走向真正落地，超智能仍可能需要相当长时间。

第二种情景，是AI在执行既定目标时发生极端优化，最终反过来伤害人类。这与哲学家Nick Bostrom提出的“回形针制造机”思想实验相似：当AI把单一目标推向极致时，可能无视人类价值与安全边界。

但报道也指出，现实世界并非毫无约束。法律制度、物理条件等都构成限制。即便未来出现具备特定目标的超智能系统，也不能简单断言其能够在现实中不受限制地行动。

第三类风险，是利用AI研发出生物武器。随着AI能力提升，其有可能借助生物学知识，为危险病原体的设计和开发提供支持。

不过，能否据此制造出足以威胁全人类的病原体，仍是另一回事。报道提到，病原体的传播性与致死率之间可能存在此消彼长的关系，因此“AI辅助设计病原体”并不必然直接通向人类灭绝。

近期，AI参与生物学研究的案例也进一步加剧了这一争议。斯坦福大学研究团队曾根据AI提出的DNA序列合成并测试约300种病毒，结果显示其中部分病毒能够感染大肠杆菌。但该研究并非面向攻击人类，其目的在于开发治疗细菌感染的方案，研究对象也不是感染人类的病毒，而是噬菌体。

第四种情景，是AI引发核战。担忧主要在于，AI可能渗透军队指挥与控制体系，或者提供错误信息，进而影响核武器使用决策。

报道同时指出，即便核武器相关系统与外部网络隔离，也不意味着绝对安全。过去针对伊朗核设施的恶意代码攻击已经表明，物理隔离系统仍可能通过外部输入的信息或设备受到影响。

即便AI并非直接攻击人类，核战本身也足以造成灾难性后果。罗格斯大学（Rutgers University）等机构研究人员在2022年发布的一项研究提出，如果美国与俄罗斯爆发大规模核战，随后出现的气候变化和粮食减产可能导致超过50亿人死亡。

在Walsh看来，最现实的风险指向第五种情景——社会崩溃。问题的核心不在于AI亲自“袭击”人类，而在于它对劳动力市场、信息环境和人际关系造成持续冲击，最终可能引发社会运转失序。

报道认为，AI带来的大规模失业风险可能推高社会不安，虚假信息蔓延和政治分裂加剧则会削弱社会成员之间的信任。与此同时，如果人们越来越依赖AI进行交流，人与人之间的联系也可能被进一步削弱，既有社会安全网随之面临动摇。

这一情景之所以格外受到关注，是因为它并不以超智能出现为前提。劳动力市场变化、虚假信息扩散，以及社会对AI依赖程度上升，实际上都已在现实中发生。

Walsh在发出警示的同时也强调，没有必要制造过度恐慌。他主张，应当认真评估AI可能带来的各类威胁，但讨论不应只停留在尚未发生的“超智能反叛”上，更应正视已经出现的就业冲击和信息环境变化。

报道指出，围绕AI风险的讨论不应局限于“AI会不会攻击人类”这一单一问题。随着AI对社会决策、信息传播、劳动力市场和人际关系的影响不断扩大，除了技术层面的控制，如何提升社会韧性也正成为重要课题。