人工知能（AI）を悪用したサイバー攻撃への備えとして、現行の法制度では不十分だとの指摘が出た。AIが自ら脆弱性を探し出し、攻撃まで自律的に実行する高性能AIが登場するなか、侵入防止を前提とした従来型の規制では対応しきれず、レジリエンスと動的対応を軸に制度を見直す必要があるという。

この見解は、法務法人KwangJang、韓国情報通信法学会、韓国データAI法政策学会、情報通信政策研究院（KISDI）が5日に共同開催した「第2回AI法政策フォーラム」で示された。チョン・セジン弁護士（法務法人KwangJang）は、「既知のリスクを遮断する従来のセキュリティ体制ではAIへの対応は難しい」と述べ、「レジリエンスと動的対応を中心に、セキュリティ規制のパラダイムを転換すべきだ」と主張した。

生成AIの普及後、AIを悪用したサイバー攻撃は急増している。CrowdStrikeの「2026グローバル脅威レポート」によると、2025年のAI活用型サイバー攻撃は前年比89％増加した。攻撃者が初期侵入後に内部資産を特定するまでの時間も平均29分に短縮され、最短では27秒だった。チョン弁護士は「優れたAIツールを契約し、使う意思さえあれば、誰もがハッカーになり得る時代だ」と述べた。

一方で、こうした脅威に対処する法的枠組みは十分に整っていないという。

議論の中心は、高性能AIをどう統制するかだ。AI基本法第32条は、高性能AI事業者に対し、リスク管理の結果を科学技術情報通信部長官に提出するよう求めるにとどまる。脆弱性の自動探索、侵入コードの生成、サイバー攻撃の自律実行といった能力を備えたAIシステムがMythosのように配布された場合でも、それを差し止める仕組みはない。独立した評価機関による事前認証の義務も、リスクの高いモデルの配布を制限する規定も設けられていない。チョン弁護士は「演算量（FLOPs）ではなく、実際の攻撃能力を基準に統制の必要性を判断すべきだ」と訴えた。

エージェンティックAIが引き起こす事故を巡っても、責任の所在は曖昧だ。現行の個人情報保護法に基づく安全性確保措置基準は、アクセス権限管理や接続記録の保存義務を「人」の行為を前提に設計している。だが、AIエージェントは社員の指示がなくてもデータベースを閲覧し、外部にデータを送信できる一方、記録義務は社員の接続にしか適用されない。情報漏えいが発生しても、エージェントが何をしたのか追跡できず、AI開発会社、利用企業、社員のうち誰が責任を負うべきかも明確ではない。チョン弁護士は「エージェントAIは自ら権限を拡張・委任できるため、人を前提にした静的なアクセス権限体系では対応できない」と指摘した。

その上でチョン弁護士は、「AIによる攻撃を完全には防げないのであれば、回復力を基準に規制を設計すべきだ」と主張した。

具体例として挙げたのが、EUのデジタル運用レジリエンス法（DORA）だ。DORAは金融業界を対象に、実戦型の侵入テストを定期的に義務付け、結果に基づく対応措置を求めている。あわせて、迅速報告の体制整備や、復旧時間目標・復旧時点目標の設定義務も盛り込んでいる。チョン弁護士は「侵入を防ぐことではなく、侵入された際にどこまで耐え、どれだけ早く復旧できるかを規制の基準に据える発想だ」と説明した。

動的対応への転換も提案した。EUのネットワーク・情報セキュリティ指令（NIS2）のように、画一的なセキュリティ措置のリストを強制するのではなく、各企業の環境や脅威プロファイルに応じた柔軟な防御体制を求める考え方だ。AIは未知の脆弱性を機械的な速度で探索するため、定型化された義務だけでは対応できないとした。また、AIサプライチェーンには外部企業が多数関与することを踏まえ、第三者リスクの継続的な管理も中核要素として挙げた。

さらに、処罰中心からインセンティブ中心への転換の必要性も強調した。常時リスク管理体制の構築や、脆弱性の申告・是正の仕組みを運用するなど、事前対応能力を備えた企業にはインセンティブを与える一方、十分な措置を講じたにもかかわらず侵害が発生した「誠実な失敗（good-faith failure）」については、制裁を軽減する方向を提案した。チョン弁護士は「事故の発生そのものではなく、対応能力を基準に判断すべきだ」と述べた。