OpenAIとAnthropicに在籍したAI研究者のジェイコブ・コクソン氏が、保有するOpenAIの持ち分を全額、AI安全関連の活動に充てる考えを明らかにした。超知能の開発競争は停止するか、大幅に減速すべきだとの自身の主張に沿った判断だとしている。
米Business Insiderが11月18日(現地時間)に報じた。コクソン氏は同日、X(旧Twitter)への投稿で、OpenAIの持ち分をすべてAI安全の目的に充てると表明した。
コクソン氏は、この寄付について、実際の影響が見込めるだけでなく、自らの主張に責任を持つための決断だと説明した。そのうえで、超知能の開発競争は止めるか大幅に減速させる必要があると強調し、今後も独立した立場でAIのリスクを訴えていく考えを示した。
今回の判断により、同氏は将来OpenAIが新規株式公開(IPO)をした場合に得られる可能性のある、数百万ドル規模の利益を放棄することになる。ただ、持ち分の実際の価値や処分時期、具体的な寄付先は明らかにしていない。
コクソン氏は2023年から2026年にかけてOpenAIに在籍し、その後Anthropicに移った。しかし、AI開発のスピードと安全性への懸念から、9月にAnthropicも退社した。
退社時には、OpenAIとAnthropicが超知能の開発競争を進めることで、人類の生存を危険にさらしていると批判。特に、人の介入なしにAIが自ら性能を高める「再帰的自己改善(Recursive Self-Improvement)」について、開発中止を求めていた。
Anthropicには入社から約4カ月で見切りをつけ、株式報酬も放棄した。株式報酬は入社6カ月後に権利が確定する仕組みだったが、その時点を待たずに退社したという。
一方、OpenAIの持ち分を手放すことには、直前まで迷いもあった。11月9日にスタンフォード大学で行った講演では、この持ち分を「血塗られた金」と表現する一方で、個人的な経済的利益を手放すことの難しさにも言及していた。
その後、約10日で判断を改め、寄付に踏み切った。AI安全を巡る自らの主張を裏付けるため、経済的な利害関係を断つ必要があると判断したとみられる。
なお、OpenAIのサム・アルトマンCEOは9月、2026年のIPOは実施しない方針を示している。上場時期自体も固まっておらず、コクソン氏の持ち分寄付が実際にいつ、どの程度の規模で実行されるかは不透明だ。
コクソン氏はXへの投稿で、「数日前、OpenAIの持ち分を寄付することを決めた。全額をAI安全の目的に充てる」としたうえで、「超知能への競争は停止するか、大幅に減速すべきだ」と訴えた。さらに、今後も独立性を保ちながら、この問題に関する認識拡大と政策対応の議論に取り組む考えを示した。