Tesla CEO Elon Musk表示,人工智能(AI)可能在未来5年内超越人类整体智力,并在10年内发展到人类难以控制的程度。与此同时,他呼吁在AI竞赛持续升温的背景下,由主要企业围绕安全问题建立协作与核查机制。
据加密货币媒体Decrypt 27日(当地时间)报道,Musk近日在与《The Economist》主编 Zanny Minton Beddoes 的对谈中表示,AI正朝着在几乎所有智力任务上超越人类的方向演进。
Musk认为,AI的发展不仅是一次技术迭代,也可能重塑社会结构。他说:“AI做得不如人类的事,可能只剩下做人本身。”他同时预测,从长期看,最有可能到来的是一个“高度富足的时代”,届时人们或许能够得到自己想要的一切。不过他也强调,富足并不等于安全,风险治理同样重要。
他进一步指出,考虑到AI与机器人技术的推进速度,在现实中几乎不可能叫停相关开发。Musk称,他“看不到有什么办法能阻止AI和机器人发展的巨大推动力”,并表示“即便有一个停止按钮,也未必应该按下”。在他看来,与其人为中断技术进程,不如建立更现实的风险防控机制。
基于这一判断,Musk建议全球主要AI企业建立协商机制,定期就安全问题展开讨论。他认为,即便彼此存在竞争关系,各家公司也应在发布下一代AI模型前开展有限度的相互核查,以识别潜在风险;一旦发现严重问题,还应有相应机制允许政府介入。
在强调AI安全合作的同时,Musk再次批评 OpenAI 与 Sam Altman。他表示,OpenAI已偏离其早期以非营利、开源方式为人类开发AI的初衷,转而成为一家封闭的营利性公司。他直言自己“不是Sam Altman的粉丝”,并批评OpenAI背离了创立之初的使命。
不过,Musk近期在法律层面的动作并未取得明显进展。今年5月,美国加州陪审团在一桩索赔金额达1500亿美元的诉讼中,未认定 OpenAI、Sam Altman 及联合创始人 Greg Brockman 等被告承担责任。Musk此前提起诉讼,理由是 OpenAI放弃非营利组织宗旨并转向营利架构。
相比之下,Musk对 Anthropic 的评价相对正面。他表示,联合创始人 Dario Amodei 与核心成员因不再信任 Sam Altman 而离开 OpenAI,并创办了 Anthropic。Musk称:“Dario是一个有原则的人。”他还表示,迄今为止,自己并未从 Anthropic 团队成员身上感受到恶意。但他同时补充称,善意本身并不足够,AI安全仍需保持持续警惕。
Musk反复强调,即便企业之间存在竞争、个人之间存在分歧,AI安全也必须优先于对立。他说:“如果最终必须对话,那就对话。”并表示,“为了这个世界,需要先把个人差异放在一边。”
随着AI技术竞争不断升温,Musk提出的全球AI安全协商机制能否推动行业层面的实质合作,仍有待观察。