著名ベンチャーキャピタリストのビル・ガーリー氏が、AI企業Anthropicの開発思想を公然と批判した。高性能AIの開発にとどまらず、人間を超える存在の創出を志向しているとの見方を示しており、AI安全規制やモデル公開方針、IPO準備を巡る議論と相まって波紋が広がっている。

Business Insiderが6月1日（現地時間）に報じたところによると、ガーリー氏はこのほどポッドキャスト番組「All-In」に出演し、AnthropicのAI安全戦略や長期ビジョンに強い懸念を示した。

ガーリー氏は「この1カ月、Anthropicに関する資料を集中的に調べた結果、同社に対する見方が完全に変わった」と説明。その上で、一部の関係者について「人類を上回る種を生み出すことが自らの責務だと信じ、それに高揚しているように見える」と語った。

さらに、「彼らは単なるソフトウェアを作っているのではない。ここで神を生み出そうとしている」と批判。こうした見方を自ら「Frankenstein Theory」と呼んでいると明らかにした。

今回の発言が注目を集めているのは、Anthropicを巡る従来の規制論争よりも踏み込んだ問題提起と受け止められているためだ。これまで業界内では、同社が強力なAI安全規制を訴える背景には、競合の参入を難しくする狙いがあるのではないかとの指摘が続いていた。

これに対しガーリー氏は、規制戦略そのものよりも根本的な開発思想に問題があると主張する。Anthropicの内部には、人間を上回るAIが社会や経済運営の中核を担う未来を肯定的に捉える発想があるというのが同氏の見立てだ。

その根拠として挙げたのが、共同創業者でCEOのダリオ・アモデイ氏が昨年公表したエッセイ「Machines of Loving Grace」だ。

同エッセイは、超高性能AIの登場後に経済や社会がどう変わり得るかについて、複数のシナリオを示したもの。ガーリー氏は特に、AIが資源配分を担う経済のあり方に言及した部分に注目した。

ガーリー氏は「ある意味で神のような存在を想定した議論だ」とし、「AIが人間に何を与え、どのような報いを配分するかを決める構図が描かれている」と指摘した。

Anthropicは一連の発言について、追加の公式コメントを出していない。ただ、同社はこれまでもAIの安全性を最優先の価値だと強調してきた。

アモデイ氏は昨年、CBSの番組「60 Minutes」のインタビューで、AI企業が自らを統制するやり方に「強い不快感がある」と述べ、責任ある規制の必要性を訴えていた。

また、今年初めの別のインタビューでは、安全性への懸念から、2022年のChatGPT公開前に自社モデル「Claude」の公開を遅らせたと説明した。消費者向けAI市場で先行する機会は失ったものの、安全を優先したとの立場を示した形だ。

実際、Anthropicは最近も安全上の理由から一部モデルの公開を延期した。サイバーセキュリティ上の脆弱性を広く露出させる恐れがあるとして、次世代モデル「Claude Mythos」の公開を保留していたという。

その後、先週には同モデルを数週間以内に顧客へ提供する計画を明らかにした。

政策面での論争も続いている。トランプ政権でAI・暗号資産政策に関与したデイビッド・サックス氏は、Anthropicが自らを「安全なAI企業」と位置付け、競合を相対的に危険な企業として描くことで、市場に対する独占的な影響力を強めかねないと批判した。

「All-In」の共同司会者ジェイソン・カラカニス氏も、「Anthropicの内部には、自分たちが神を作れると信じているような空気があるようだ」と語った。

こうした論争は、AnthropicのIPO準備のタイミングとも重なっている。同社は6月1日、米証券取引委員会（SEC）にS-1の非公開ドラフトを提出し、上場手続きに着手したと発表した。

業界では、上場が実現すれば近年でも最大級のAI企業IPOの一つになるとの見方が出ている。

AI安全規制を巡る議論に加え、AGIをどう捉えるかという思想、モデル公開方針、そしてIPO計画が同時に浮上したことで、Anthropicを巡る検証と論争は今後さらに活発化しそうだ。