Anthropicのダリオ・アモデイCEOは、先端人工知能（AI）の開発ペースを抑えるべきだとの持論を巡り、最大の難題として中国の存在を挙げた。中国のような国が減速に足並みをそろえない可能性が高く、国際協調の必要性はあるものの、実現は極めて難しいとの認識を示した。

CNBCが13日（現地時間）に報じたところによると、アモデイ氏はCBSの番組「Sunday Morning」のインタビューで、長期的にはAIの進歩速度に一定の上限を設ける方向で各国が協力すべきだと述べた。一方で、各国には先行を狙う強い動機があり、軍事面での優位性も絡むため、実行は非常に難しいと説明した。実現可能かは分からないが、試みる必要はあるとも語った。

今回の発言は、アモデイ氏が12日に公表したエッセーに沿ったものだ。同氏はこの中で、フロンティアAIモデルの性能向上ペースを落とす必要性を訴えていた。

先週には、AI業界の研究者らが、AIが破滅的な被害をもたらす可能性が高まっていると警告した。Anthropicの研究者ジェイコブ・コクソン氏は、AnthropicとOpenAIが「人々の人生を賭けの対象にしている」との懸念を示し、退社したことを明らかにしている。

アモデイ氏はエッセーで、3段階の実行案も提示した。第1段階では、外部評価者に従業員レベルのアクセス権限を付与し、安全対策の検証や事故報告を可能にする。Anthropicはこの措置について、すでに独自に実施する方針を示している。

第2段階は、民主主義国の主要AI企業が共通の安全基準を整備できるよう調整する案だ。第3段階では、民主主義国の政府と権威主義国の政府の連携を進めるとしている。

関連して、OpenAIのサム・アルトマンCEOも12日、Fortuneのインタビューで、同社が今年は上場しない可能性が高いと述べた。現時点では上場に適したタイミングではないとの認識を示したうえで、アモデイ氏のエッセーについても、先端AI開発のスピードを調整する必要があるとの立場を示した。

デミス・ハサビス氏とイーロン・マスク氏も、この考え方に賛意を示した。ハサビス氏は、細部の調整は必要だが方向性は正しいと評価。マスク氏は、AIには監督が必要であり、競合各社によるピアレビューが適切な出発点になるとの見方を示した。