OpenAIは、オープンウェイトモデルはガードレールが比較的弱く、ファインチューニングや追加計算によってフロンティアモデルに迫るサイバー攻撃能力を持ち得るとして、悪用リスクへの警戒を促した。企業に対しては、AIエージェントを組み込んだ防御体制への転換が必要だと訴えている。

OpenAIの応用AIセキュリティスペシャリスト、ワナ・トゥン氏は7日、ソウル市瑞草区のサムスン金融キャンパスで開かれた「AIリスクカンファレンス・ソウル2026」（Aim Intelligence）で、「懸念しているのはフロンティアモデルそのものがサイバー攻撃を始めることではない。悪意ある攻撃者がオープンウェイトモデルをファインチューニングすれば、大きな被害をもたらしかねない」と述べた。

同氏は、フロンティアモデルではないモデルでも、十分な時間とトークンを投入すれば攻撃能力を高められると指摘。フロンティアモデルとの知能面の差は、およそ6〜8カ月だとの見方を示した。

また、AIを使ったサイバー攻撃そのものも、急速に自律化へ向かっていると説明した。

トゥン氏は「2022年にはAIはコーディング支援ツールとして使われていたが、現在では脆弱性の探索やエクスプロイトの作成に加え、自律的にサイバー攻撃まで実行できる」と語った。

AIは、偵察やスキャン、セキュリティ機器や制御領域の脆弱性探索、ネットワークの掌握といった工程を連続して実行できるという。複数の下位エージェントが並列で動き、相互に情報をやり取りしながら長時間にわたって攻撃を継続できる点も特徴として挙げた。

こうしたAIベースの攻撃と従来の企業セキュリティ体制の関係について、同氏は「非対称戦争」と表現した。「人間がインシデント対応でリアルタイムに扱える情報には限界がある一方、AIは数百万件規模のコンテキストを保持できる。AIベースの攻撃が強力なのは、複数の作業を並列に連結して実行できるためだ」と説明した。

その上で、企業の防御体制もAIエージェントを軸に再構築すべきだと強調した。

トゥン氏は「ネットワークの変化を監視し、セキュリティインシデントを分析するAIエージェントを配置して、脅威の検知と対応の速度を高めるべきだ」と述べた。さらに、「脆弱性の発見から、実際に悪用可能かどうかの検証、パッチ生成までをAIが担い、人間は最終判断に集中すべきだ」と語った。

さらに「AIが環境を攻撃し、相互にコミュニケーションしながら動く状況では、企業側もサイバー脅威にエージェント型で対応する準備が必要だ」と付け加えた。

OpenAIは、既存のサイバーセキュリティソリューションをAIで置き換えるのではなく、既存の体制にAIエージェントを組み合わせる方向が望ましいとの立場を示している。

トゥン氏は「攻撃者はすでにマシンスピードで動いている」とした上で、「企業も脆弱性を見つけるだけで終わらせず、実際に悪用可能かどうかを検証し、パッチ生成まで自動化するかたちで、セキュリティのワークフローを迅速に転換すべきだ」と述べた。