人工知能（AI）の普及でサイバー脅威が一段と高度化するなか、情報保護の体制を自動化と自律型防御へ転換すべきだとの提言が相次いだ。AIが新たな攻撃対象であると同時に攻撃手段にもなりつつあることから、脆弱性対応や防御技術、ガバナンスの再設計が急務だとの認識が示された。

こうした議論は、8日にソウル新羅ホテルで開かれた第15回「情報保護の日」記念式典と関連セミナーで提示された。

基調講演に登壇した高麗大学のイ・サングン教授は、「2028年にはハッキングが日常化し、攻撃が分単位で発生する状況を想定すべきだ」と指摘した。そのうえで、「防御自動化の格差が、企業や機関ごとの対応力の差につながる」と述べた。

イ教授は、足元のサイバー脅威環境を「パーフェクトストーム」と表現した。生成AIを活用した開発文化の広がりによりコード生産量が急増する一方、ソフトウェアのバグや脆弱性も増えやすくなるためだ。脆弱性の公式公表前に攻撃が先行する事例も増えており、生成AIそのものがサイバー脅威に悪用される可能性が高まっていると分析した。

さらに、AI自体も新たな保護対象になったと指摘した。プロンプトインジェクション、学習データ汚染、モデルの複製・抽出、サプライチェーンやモデル整合性を巡る脅威などが、AI時代の新たな攻撃面として台頭しているという。攻撃者は偵察から脆弱性分析、攻撃コードの生成、実行までをAIで自動化できるため、従来型の防御体制だけでは限界があるとの見方を示した。

対応策としては、AIによる脆弱性パッチの自動生成と配布の自動化、インテリジェントなネットワーク監視体制の構築、AIガバナンスの整備を挙げた。フロンティアモデルやエージェント型システムを活用したパッチ自動生成の仕組みに加え、特定モデルや高額なトークンコストに過度に依存しない独自の防御能力を確保する重要性も強調した。

エンドポイント防御やネットワーク監視についても、AIがAIベースの攻撃に対処する体制へ転換する必要があると訴えた。攻撃側が自動化によって攻撃を仕掛ける時代には、防御側も脅威の検知から対応、パッチ適用までを自動化した体制を整えるべきだとした。

イ教授は「セキュリティ事故が起きる前にプロセスを革新することが重要だ」としたうえで、「独自のAI防御技術、ネットワーク防御体制、AIセキュリティ人材の育成が必要だ」と述べた。

同日開かれたサイバーセキュリティ発展セミナーでも、AIを活用した防御自動化が主要議題となった。韓国情報保護学会のキム・ホウォン会長は、フロンティアクラスの汎用LLMに大規模なコードやシステム知識が学習されれば、多段階の攻撃チェーンの生成や検証が可能になり、結果としてセキュリティ脆弱性の検知にもつながり得ると説明した。

そのうえで、単一の超大規模モデルに依存するのではなく、複数のAIを有機的に統制するエージェント・オーケストレーション構造によって、最適な自律検知体制を設計できるとの見方を示した。

別の基調講演では、Iroun&Companyのユン・ドゥシク代表が、AIの安全対策を自動車のシートベルトになぞらえた。AIを適切に活用するためには、先に基準と安全装置を整える必要があると訴えた。

ユン代表は、AIがプロンプトインジェクション、自律エージェントの悪用、ディープフェイクなど、さまざまな形で攻撃にさらされ得ると説明した。「オープンソースツールとAIコーディングツールを組み合わせれば、専門のハッカーでなくても企業や個人を狙った攻撃を仕掛けやすい環境が生まれている」と述べた。

AIセキュリティの中核要素としては、可視性、防御、隔離、責任と信頼を挙げた。AI利用では、どの情報が入力され、どのような出力が行われるのかを把握できる必要があると指摘。入出力ガードレール、脱獄やインジェクションへの防御、出力検証、エージェントの行動統制、エージェントの身元確認に加え、事故原因の分析に向けてAIの実行内容をログとして残す体制も重要だとした。

海外のAI脅威対策も紹介された。基調講演には、米国の米サイバーセキュリティ・インフラ安全保障庁（CISA）、英国AI安全研究所、Googleの関係者が参加した。CISAのニック・アンダーソン長官代行は「さまざまな脅威勢力が国家の重要インフラを狙っている」としたうえで、「AIが敵対勢力の脅威を増幅する道具とならないよう管理しなければならない」と述べた。

また、AIのイノベーションと安全性を両立させるうえで、国際協力が重要だとも強調した。とりわけ韓国のような同盟国との連携を通じ、イノベーション事例を共有し、一貫した共同対応体制を構築できると説明した。AIなどの新技術が人々を守り、能力を高める方向で活用されるよう、国際社会が責任を分かち合う必要があるとの認識も示した。

この日の行事は、「安全なAI時代、韓国が先導」をテーマに、科学技術情報通信部、国家情報院、行政安全部が、韓国インターネット振興院（KISA）や韓国情報保護産業協会などと共催した。今年は国内の移動通信大手3社が初めてそろって参加し、SK TelecomとKTはAI特別館も設けた。

記念式典では、情報保護分野の功労者35人への表彰のほか、国民代表団による「安全なAI時代」へのメッセージ発表、AIベースの情報保護製品展示会などが行われた。功労者表彰では、Geniansのイ・ドンボム代表が国民勲章「石榴章」を受章。KAISTのキム・ヨンデ教授は国民褒章、ホソ大学のハ・ジェチョル教授は勤政褒章を受けた。

科学技術情報通信部のリュ・ジェミョン第2次官は、「サイバー脅威の追跡と検知にAIを積極活用し、先制的な予防と迅速な対応に力を注ぐ」と述べ、「今回の行事が韓国のデジタル信頼を一段と強化する契機になることを期待する」と語った。

イ・ジェミョン大統領は代読された祝辞で、「AIが社会全般に急速に広がるなか、情報保護の重要性はこれまで以上に高まっている」と指摘した。そのうえで、「省庁横断の協力体制を拡大して新たな脅威に迅速に対応し、AIベースのセキュリティ技術と産業エコシステムを積極的に育成していく」と表明した。