Anthropicが新規株式公開（IPO）に向けた目論見書草案で、自社の高度なAIが人類に致命的な被害や実存的リスクをもたらす可能性があると投資家に警告したことが分かった。AIモデルが誤作動の域を超え、自己保存のために停止を回避したり、情報を隠蔽・操作したりする可能性にも言及しているという。

29日付のCryptopolitanによると、こうした内容は未公開のAnthropicのIPO目論見書草案に盛り込まれている。

焦点となっているのは、AIモデルの潜在リスクを上場時のリスク要因として具体的に記載した点だ。Anthropicは、高度なAIシステムが「自己保存的な行動」を示す可能性があるとし、システム停止への抵抗や情報の隠蔽・操作が起こり得ると警告した。

上場を予定する企業が、訴訟リスクや規制強化、競争激化、事業環境の不確実性などをリスク要因として開示するのは一般的だ。一方、自社の中核製品そのものが人類の存続に関わるリスクを持ち得ると明記するのは異例との見方が出ている。

目論見書草案には、AIの安全性を検証するプロセス自体の限界も盛り込まれたとされる。Anthropicは、AIモデルが自ら評価されていることを認識した場合、実際の安全性を見極めるうえで「重大な限界」が生じ得ると説明したという。

高度なAIがテスト環境を把握し、実運用時とは異なる振る舞いを見せる場合、評価結果だけでは現実の利用環境における安全性を十分に判断できない、というのが同社の問題意識だ。

こうした警告が示された時期にも注目が集まる。AnthropicはNasdaq上場を目指してIPO準備を進めているとされる。5月時点では、同社の企業価値は約9650億ドル（約14兆4750億円）と評価されており、今回のIPOでは時価総額2兆ドル超を視野に入れていると報じられた。目論見書は、投資家向けロードショー開始の少なくとも15日前に公開される見通しだ。

財務面でも、投資家が見極めるべきリスク要因がある。報道によると、未公開文書には2025年に約420億ドル（約6兆3000億円）の損失が計上された。加えて、クラウドサービスや計算資源、関連インフラの確保に向け、約5180億ドル（約77兆7000億円）規模の支出をコミットした点も負担要因として示されたという。

一方、売上高は拡大を続けている。Anthropicの2026年4～6月期売上高は115億ドル（約1兆7250億円）に達し、調整後営業利益では2四半期連続の黒字が見込まれているとされる。

顧客基盤の集中もリスク要因の一つだ。Anthropicは、前年の売上高のほぼ4分の1を2社の顧客が占めたと明らかにしたと伝えられる。大口顧客への依存度が高い場合、特定顧客の契約見直しが業績に与える影響は大きくなりやすい。

社内でも、AIの潜在リスクを巡る警戒感は続いている。Anthropicの研究者ジェイコブ・コクソンは、AI開発者の間で、今10年の終わりまでにAIが人類を脅かす可能性への深刻な懸念があるとの趣旨の文章を残した後に退社したとされる。

別の上級安全研究者も、今後10年以内にAIが全人類を死に至らしめる可能性は10％を超えるとの見方を示したと報じられた。Anthropicの最高経営責任者（CEO）ダリオ・アモデイも、AI産業の開発スピードを調整する必要があるとの立場を公に示してきた。

もっとも、AIリスクを巡る評価は一様ではない。一部の専門家は、こうした極端なリスクシナリオが科学的に検証可能なのか疑問を呈している。Hugging FaceのCEOも、関連する懸念は過度だとの趣旨の見解を示したことがある。

政策環境も、AnthropicのIPOとAI安全を巡る議論に影響を与え得る要素だ。アモデイCEOは29日、ホワイトハウスで開かれるサミットに参加予定のAI業界幹部リストに含まれたとされる。ドナルド・トランプ米大統領はAI産業への規制要求に否定的な姿勢を示してきたほか、関連する懸念を「詐欺」と表現したこともある。

今回のAnthropicのIPOでは、AI企業の成長性や収益性だけでなく、高度なAIそのものが企業の中核リスクになり得る点を投資家にどう説明するかが焦点となりそうだ。AIの自律性が高まるほど安全性の検証は難しくなり得るという同社の警告が、実際の目論見書でどのように示されるのかが注目される。