AIが人類を滅ぼす確率を巡る研究者の発言が、オンライン上で波紋を広げている。Anthropicの元研究者による投稿をきっかけに議論が広がり、「今後10年以内に人類が絶滅する確率は10％超」とする見方まで浮上した。Axiosが9日（現地時間）、報じた。

報道によると、AI研究者の間で人類絶滅リスクを確率で見積もり、日常的に議論していた実態が今週になって広く知られるようになった。示された確率は10％、20％、場合によってはそれ以上に及ぶという。

発端となったのは、OpenAIを経てAnthropicに在籍していた研究者、ジェイコブ・コクソンの「退職文」だった。フロンティアAI企業は「自分たちの命運を懸けた賭けに出ている」と主張する投稿は、Xで閲覧数が1億1000万回を超えた。

これに続き、Anthropicでアラインメント・サイエンスチームを率いるエバン・ハービンガーがコクソンの主張を補強し、議論はさらに拡大した。ハービンガーは、AIが人類を滅ぼし得ると本気で考えているとした上で、今後10年以内に人類が絶滅する確率は10％を超えるとの見方を示した。Anthropicにもなお、超知能を人間が制御する方法はないとも述べた。

こうした一連の発信を巡っては、広報上の失策と受け止める向きがある一方、企業価値2兆ドル規模を目指すAnthropicが新規株式公開（IPO）を前に仕掛ける「恐怖マーケティング」とみる声も出ている。

AIによる人類絶滅リスクは、ここ数年にわたり指摘されてきた。ノーベル賞受賞者のジェフリー・ヒントンは、その確率を10〜20％と推定。イーロン・マスクは20％との見方を示している。AnthropicのCEO、ダリオ・アモデイも昨年のAxiosのインタビューで、事態が「本当に非常に悪い方向に進む」確率を25％と見積もっていた。

懸念されるのは、AIが生物兵器の設計やサイバー攻撃、インフラ麻痺のハードルを引き下げる可能性があることだ。加えて、一定の自律性を持つシステムが監視者を欺き、自己複製し、停止の試みに抵抗する可能性も挙げられている。Axiosは、最も極端なシナリオとして、AIが人間の制御速度を上回るペースで自己改良を進める事態を紹介した。

もっとも、研究者が語る確率と一般社会の受け止めには隔たりがある。研究者の文脈での「10％」は、「まだよく分かっていない」という不確実性の表現に近い一方、日常生活で飛行機や新薬、原子炉に同程度のリスクがあるとされれば、それを受け入れる人はほとんどいないとAxiosは伝えている。