JPMorgan Chaseのジェイミー・ダイモン最高経営責任者（CEO）は5日、Anthropicの生成AIモデル「Claude Mythos」について、サイバーセキュリティの観点から重大なリスクを伴う技術だとの認識を示した。高度なAIがソフトウェアの脆弱性を従来よりはるかに速く見つけられるようになり、金融業界にとって脅威が現実味を帯びてきたと警鐘を鳴らした。

米金融メディアのAmerican Bankerによると、ダイモン氏は同日、ニューヨークで開かれたAnthropicのイベントで講演し、高度化したAIモデルは既存のセキュリティ検査ツールを大きく上回る速度でソフトウェアの脆弱性を発見できると述べた。

ダイモン氏は先月の決算発表では、先端AIモデルによるサイバー脅威を比較的抑制的にみていたが、今回は「脅威は現実的だ」と明言した。ここ数年、銀行業界にとって最大のリスクの一つはサイバーセキュリティだったとしたうえで、AnthropicがClaude Mythosを公開して以降、懸念はさらに強まったとの見方を示した。

そのうえで、Claude Mythosは「かなり脅威的だ」と評価し、Anthropicが研究と対応の時間を確保するためにアクセスを制限した判断は適切だったと語った。

JPMorgan Chaseは、自社アプリケーションの脆弱性についてはおおむね1年で対処を進められるとの見通しも示した。一方で、大手銀行が共通して利用するオープンソースソフトウェアについては、個社だけでの対応には限界があるとして、業界全体で補強していく必要があると強調した。

同じイベントに出席したAnthropicのダリオ・アモデイCEOも、関連リスクはすでに顕在化していると述べた。「脅威は非常に現実的だ」としたうえで、Claude Mythosの利用権限を「Project Glasswing」に参加する大手企業12社に限定した理由を説明。連邦政府とも懸念を共有していると明らかにした。

Anthropicによると、Mythos以前のモデルがFirefoxで見つけた脆弱性は約30件だったのに対し、Mythosは約300件を発見した。高度なAIモデルは防御にも活用できる半面、攻撃側の能力も押し上げかねないとの懸念が強まっている。

同社はまた、見つかった脆弱性の多くが未修正のままだと警告した。アモデイ氏は、数万件の脆弱性を確認しながら一部しか公表しなかった理由について、修正が完了する前に詳細が広がれば、悪意ある主体に悪用されるおそれがあるためだと説明した。学校や病院、銀行、金融口座などに被害が及べば、大規模なランサムウェア被害や財務上の損失につながりかねないと懸念を示した。

規制と対応体制の整備も課題として浮上している。アモデイ氏は、スコット・ベッセント米財務長官とClaude Mythosのサイバーリスクを巡って踏み込んだ議論を行ったと述べた。米財務省は銀行業界や金融サービス業界全体から意見を聴取しており、リスクを深刻に受け止めているという。一方で、現状の対応は統一的な制度というより、暫定的な手続きに近いとの認識も示した。

Anthropicは技術面での時間差にも言及した。アモデイ氏は、他のAI企業は約3カ月、中国のモデルは6〜12カ月遅れていると説明し、その間が脆弱性修正に充てられる実質的に限られた対応期間になるとの見方を示した。同時に、Claude Mythosはより安全なコード作成の支援にも使えるとし、リスク管理に成功すればより良い結果につながると主張した。

計算資源の不足を巡る懸念については否定した。アモデイ氏は「政府と民間が同時にMythosを活用すると演算資源が不足するという見方は誤解だ」と述べ、「Claude Mythosが使う計算量はAnthropic全体の資源のごく一部にすぎず、必要であれば3倍や10倍に拡大しても問題ない」と説明した。

また、新たなAIモデルを政府機関が事前承認する仕組みには慎重な姿勢を示した。新技術にはバランスが重要だとしたうえで、何でも容認する「無法地帯」は避けるべきだが、米食品医薬品局（FDA）のような承認制度でイノベーションを大きく遅らせるやり方にも警戒が必要だと指摘した。業界には、迅速に動きながらも最も重大なリスクには安全策を講じる仕組みが求められるという。

一方、ダイモン氏は、JPMorgan Chaseが2012年から住宅ローン問題の解決にAIを活用してきたと紹介した。当時は機械学習を用いて大量データを分析し、人の目では見つけにくいパターンを捉える手法だったという。その後、同社はAIの専任部門を設け、リスク管理、不正検知、マーケティング、設計、メモ作成、文書レビューなどへ活用範囲を広げてきた。

今後のソフトウェア市場についてダイモン氏は、既存ソフトウェア企業と生成AIモデルは共存する可能性が高いとの見方を示した。既存企業が自社プログラムにAIエージェントを組み込み始めていることを踏まえ、どちらか一方が他方を完全に置き換えるよりも、両者が併存する構図が続くと予想した。