AIを巡る「矛」と「盾」の競争が、サイバーセキュリティ業界で新たな局面に入っている。攻撃側はAIを使ってITシステムの脆弱性を短時間で見つけ、侵入までの時間を縮めつつある。一方、防御側もAIを活用し、欠陥の検出や防御体制の強化を急いでいる。

焦点は、攻撃側と防御側のどちらが先にAIで脆弱性を見つけるかにある。米The New York Timesによると、Google CloudのCOOであり、セキュリティ製品の統括責任者も務めるフランシス・デスーザ氏は、「AIでAIと戦わなければならない。これはサイバー環境における最大の変化だ」と語った。

もっとも、AIを軸にした攻防でどちらが優位に立つのかは、なお見通せない。専門家の見方も分かれており、今後数年の展開を断定するのは難しいと同紙は伝えている。

AIモデルを開発するAnthropicは2月、AIを使って著名なオープンソースソフトウェアから、これまで未公表だった脆弱性、いわゆるゼロデイ脆弱性を500件超見つけたと発表した。3月には、同社の研究者が2003年から存在していたにもかかわらず見落とされていたLinuxカーネルの脆弱性を発見したと公表し、注目を集めた。

攻撃側から見れば、AIは攻撃の速度と規模を大きく引き上げる手段になり得る。AnthropicのClaude CodeやOpenAIのCodexといったAIコーディングツールの進化により、多様な作業を自律的にこなすAIエージェントの開発ハードルは大きく下がった。脆弱性を見つけ、その情報を基に攻撃を試みるAIエージェントも作りやすくなっている。

デスーザ氏は「AIがなければ、攻撃者がコンピュータネットワークに侵入するまでに数分かかることがあるが、AIを使えば数秒で済む」と述べた。

サイバーセキュリティ企業Corridorの最高製品責任者アレックス・スタモス氏は、「オープンウェイトのモデルが基盤モデルのバグ検出能力に追いつくまで、あと6カ月もかからない」と指摘。「そうなれば、ランサムウェア攻撃者なら誰でも、痕跡を残さず脆弱性を見つけて武器化できる」と警鐘を鳴らした。

一部のハッカーはこれまでも、システムに侵入できる経路を見つけて他の攻撃者に売ってきたが、この作業は以前は最大8時間かかっていたという。いまではAIの活用によって20秒で済むケースもある。デスーザ氏は「ハッカーはしばしば、スピードを高めるためにAIエージェントを使っている」と話した。

AnthropicやOpenAIは、AIモデルがサイバー攻撃に悪用されないようガードレールを設けているが、攻撃者はそれを回避する手段も見つけつつあるという。一部の専門家は、こうした制限が防御目的の利用者に必要な支援まで妨げ、結果として攻撃側に有利に働く可能性もあるとみている。

その一方で、AIは防御側により有利に働く技術だとの見方も根強い。昨年以降、主要なオープンソースプロジェクトでは、AIによってセキュリティ上の脆弱性を発見したとの報告が相次いでいる。当初はAIの誤判定による誤報も少なくなかったが、数カ月前から状況は変わり、本物のバグを驚くほどの速さで見つける例が増え、プログラマーも迅速に修正へ動いていると同紙は報じた。

著名なオープンソースプロジェクト「Curl」を率いるダニエル・ステンバーグ氏は、「AIモデルは人間にできることを拡張できる」とした上で、「AIを正しく使えば、ソフトウェアの問題を見つける力を着実に高められる」と語った。

もっとも、AIには依然として欠陥や誤りが残る。セキュリティ分野でも、AIを有効に使うには熟練した専門家の経験が欠かせない。コルター教授らは、AIを活用した攻防では防御側が有利だと主張する。防御側は脆弱性を見つけて塞げばよいのに対し、攻撃側は発見した脆弱性を実際に悪用可能な形に仕上げなければならないためだ。コルター教授は「脆弱性を見つけることよりも、それを意味のある形で悪用する方が難しい」と述べた。