据《华尔街日报》当地时间6月4日报道，Anthropic已呼吁主要AI研究机构放慢AI研发步伐。
Anthropic在一篇博客文章中表示，AI系统正逼近“递归式自我改进”阶段，即在无人类干预的情况下实现自我提升。该公司称，放慢AI研发速度“将有利于世界”。
上述文章由Anthropic内部研究机构负责人Marina Favaro与联合创始人Jack Clark共同撰写。
两人在文中指出，“递归式自我改进”尚未实现，也并非必然发生，但“可能会在大多数组织准备好之前出现”。基于这一判断，他们建议推动达成全球性的AI研发减速协议，并建立履约核查机制。
文章还将这一设想与核武器条约作类比，并指出，与导弹基地不同，AI训练活动无法从外部进行核验，因此识别违约方将更加困难。
Jack Clark上月在伦敦的一场演讲中也表示，“递归式自我改进”可能在两年内出现，甚至更快。Anthropic计划在未来几个月与政策制定者、研究人员等就此展开讨论。
不过，Anthropic围绕AI安全发出的这类警告，也被部分人士质疑带有牵制竞争对手或服务营销的意图。风险投资人David Sacks表示，“Anthropic管理层正在推动监管俘获，通过影响政府或政策制定者，使监管规则朝有利于自身的方向制定。”
记者信息
Chi-gyu Hwang
delight@d-today.co.kr