トランプ政権がAnthropicの最新モデル「Mythos」と「Fable5」への国外アクセスを停止した。背景には、Amazonのアンディ・ジャシーCEOがAnthropicのモデルに関する脆弱性を米政府高官に伝えたことがあると報じられている。

The InformationやThe Wall Street Journal（WSJ）などが、13日（現地時間）に報じた。

報道によると、Amazonの研究チームは「Fable5」に特定のプロンプト手法を用い、サイバー攻撃に悪用され得る機密性の高いセキュリティ情報を引き出すことに成功した。ジャシーCEOはこの内容を、スコット・ベッセント米財務長官を含む政府高官に報告し、ホワイトハウスは直ちに対応を協議したという。

その後、セキュリティ研究者がAmazon側の主張を検証。当局はAnthropicに対し、脆弱性への対策を講じるか、モデルの提供を停止するよう求めたとされる。

WSJによれば、米政府は国外からのアクセスを止めるのが最も直接的な対応策と判断した。トランプ大統領は、イノベーションを阻害する可能性があるとの懸念がある中でも、この措置に署名したという。

Anthropicは政府の指示に従い、「Mythos」と「Fable5」へのアクセスを停止した。同社によると、外国籍の研究者も多く在籍しているため、この措置によって自社の研究者も最新モデルの開発作業に関与できなくなったという。

これに対しAnthropicは、Amazonが指摘した問題は深刻な脅威ではないとの立場を示している。他の公開モデルでも同様の情報は取得可能で、いわゆる完全な「ジェイルブレイク（jailbreak）」には当たらないとしている。

サイバーセキュリティ企業GrayNoise Intelligenceの創業者、アンドリュー・モリス氏も同様の見方を示した。同氏は、Fable5が少なくとも4つのソフトウェアのセキュリティバグを見つけられた一方、実際のネットワーク侵入に使えるエクスプロイトコードを生成する段階には至らなかったと説明した。

今回の措置により、Anthropicとトランプ政権の対立が再び強まる可能性もある。政権側は、Anthropicがリベラル寄りの支援者と近く、AIの危険性を誇張しているとみている。Anthropicのダリオ・アモデイCEOはトランプ政権を批判しており、国防総省が同社を安全保障上の脅威に指定する異例の措置を取った経緯もある。Anthropicは現在、これに対抗する2件の訴訟を進めている。

モデル停止の時期は、Anthropicが早ければ今秋にも新規株式公開（IPO）を予定する局面と重なる。利用者が他社モデルに流れれば企業価値に影響する可能性があるほか、自社のサイバー向けモデルを持つOpenAIなど競合が恩恵を受けるとの見方も出ている。