Anthropicは4月9日、社内で開発を進める新たなAIモデル「Claude Mythos」を一部企業に公開するとともに、40社超の主要テック企業と連携するサイバーセキュリティプロジェクト「Glasswing」を発表した。Claude Mythosの悪用リスクを抑えつつ、防御側の対応を先行させる狙いがある。

Anthropicによると、Claude Mythosはすでに主要OSやWebブラウザで数千件の高リスク脆弱性を発見した。OpenBSDで27年間見つからなかった脆弱性のほか、500万回の自動テストでも見つからなかった動画エンコーダー「FFmpeg」の欠陥、ユーザー端末を完全に掌握できるLinuxカーネルの脆弱性などが含まれるという。

AIによる脆弱性発見そのものは目新しいものではない。だが、Claude Mythosが警戒を集める背景には、高度な推論能力がある。

ニュースレター「Platformer」の創業者兼編集者、ケイシー・ニュートンは、従来モデルが個別の脆弱性を見つける段階にとどまっていたのに対し、Claude Mythosは単一のソフトウェアから5件の脆弱性を見つけ出し、それらを組み合わせて攻撃経路を構成できると指摘した。Anthropicは、こうした能力が、人手を介さず長時間にわたり自律的に作業を続ける性能と組み合わされれば、サイバー脅威の転換点になり得るとみている。

Glasswingには、Apple、Google、Microsoft、Cisco、Broadcomなどが参加する。主要なオープンソースシステムをスキャンし、脆弱性の発見から修正対応までを支援する役割を担う。

Ciscoの最高セキュリティ責任者、アンソニー・グリエコ（Anthony Grieco）は、「AIの能力は臨界点を超え、重要インフラ防御の緊急性は一変した」と述べた。サイバーセキュリティ企業Corridorの最高製品責任者、アレックス・スタモスは、「オープンウェイトモデルがファウンデーションモデルのバグ検出能力に追いつくまで、6カ月もかからない」との見方を示した。その上で、「そうなればランサムウェア攻撃者は誰でも、痕跡をほとんど残さずに脆弱性を見つけ、武器化できる」と警告した。

一方で、ニュートンはClaude Mythosを巡って「力の集中」という問題も浮上していると指摘した。脆弱性発見を巡り、特定企業の影響力が過度に強まる可能性があるという見方だ。

ニュートンは、メディア「Argument」を運営するケルシー・パイパーの見解を引用し、「Claude Mythosを巡って十分に論じられていない点の一つは、ある民間企業が、ほぼあらゆる主要ソフトウェアプロジェクトに対して、極めて強力なゼロデイ脆弱性を保有し得ることだ」と述べた。

影響力が集中するほど、リスクも大きくなり得る。ニュートンは「Anthropicのモデル重みを盗み出そうとする誘因は大幅に高まった」と指摘。さらに、「Glasswingは、危険なAIモデルから身を守る唯一の方法が、先にそうしたモデルを開発することだという、非常に受け入れ難い前提の上に成り立っている」とし、「Anthropicは規制がほとんどない環境でそれを進めている」と付け加えた。