韓国で、AI開発のスピードをどう捉えるべきかを巡る議論が活発化している。焦点となっているのは、フロンティアAIの開発そのものを遅らせるかどうかではない。検証や統制、事故対応、レジリエンスといった「責任の速度」を開発速度に見合う水準まで引き上げるべきだ、という考え方だ。

議論のもう1つの軸は、米中対立の中で韓国がどのような立ち位置を取るかにある。どちらか一方に与するのではなく、双方が必要とするAI安全基準を先回りして設計し、国際協力の接点をつくる「機能的連携」を主導すべきだという主張が出ている。

イ・ウォンテ国家人工知能戦略委員会セキュリティ特別委員会委員長は10月1日、ソウル市中区のソウルスクエアで開かれた「AI開発の速度調整論関連セミナー」で、「特定の陣営や価値観を前提にした規範的な連帯ではなく、相手が実際に必要としているものを捉えた機能的な連携が必要だ」と述べた。

イ委員長は、AIがより優れたAIの開発を支援し始めている点に注目すべきだと指摘した。AIのリスクを判断する際には、モデルの性能だけでなく、自律性や自己改善能力、さらにはその進化の速度まで見極める必要があるという。

最近浮上している「速度調整論」についても、AI開発の全面停止を意味するものではないと強調した。Anthropicのダリオ・アモデイCEOが掲げた「We must pace the frontier」についても、開発の停止ではなく、検証や拡散、権限付与の速度を調整し、統制可能な時間を確保する考え方だと説明した。

イ委員長は「論点はAIを遅くするかどうかではない。統制不能な速度で進む状況を放置するのかが問われている」とし、「検証、拡散、権限付与の速度を調整すると同時に、安全と統制の能力も高めなければならない」と語った。

その上で、ペ・ギョンフン副首相兼科学技術情報通信部長官が提示した「速度責任論」を具体化する必要があるとの認識を示した。

イ委員長は「韓国の答えは速度調整ではなく速度責任だ」と述べ、「フロンティアモデルの開発や産業活用を遅らせるのではなく、リスクの増大を上回るスピードで、検証、事故報告、レジリエンスといった責任の側を強化すべきだ」と主張した。

さらに「安全は加速の反対概念ではなく、加速の前提条件だ」とし、「競争力のあるAIとは、高性能であるだけでなく、安全に導入でき、事故発生後も回復可能なAIでなければならない」と強調した。

◆米中の二者択一ではなく「機能的連携」　韓国の役割を議論

セミナーでは、国際的なAI安全ガバナンスにおける韓国の役割についても議論が交わされた。

イ委員長は、最先端モデルを握る米国と中国の競争と、中堅国を中心とした多国間の安全議論が分断されている点を課題に挙げた。米中のどちらかを選ぶのではなく、双方が必要とする事故分類の体系や安全評価基準、事故報告の手順、人間による統制、レジリエンスの枠組みなどを韓国が先行して設計すべきだという考えだ。

イ委員長は「韓国の役割は米中のどちらかを選ぶことではない」とし、「米中に限らず、複数の多国間連合が共有し受け入れられる機能的な共通分母を設計し、国際社会に先んじて代案を提示すべきだ」と述べた。

完成済みの国際標準を受け入れるだけでなく、AIの安全評価や統制、事故対応の基準づくりにおいて「共同設計者」として前面に出るべきだ、というのが同氏の考え方だ。

キム・ミョンジュ人工知能安全研究所所長も、AIを事実上の「デジタル核」に例え、国際協力体制の必要性を訴えた。米国と中国が、冷戦期の「核の傘」に似たかたちでそれぞれの「AIの傘」を軸に陣営競争を進める中、韓国は独自の検証・評価能力を高め、国際協力でより積極的な役割を担うべきだと指摘した。

産業界からも、特定の国家や企業が国際規範を独占的に主導するのではなく、多国間協力の枠組みを整えるべきだとの声が上がった。

キム・ドンファンFOTI2MARU代表は「特定の企業や国家の利益を代弁しないよう、多様な分野の国際機関を通じた多国間協力体制を構築すべきだ」とし、「国際安全規範の策定において、韓国が国際社会でグローバルリーダーシップを発揮しなければならない」と述べた。

◆モデルの点数だけでは測れない　韓国独自の評価基準も課題

「責任の速度」を高めるには、AIの評価方法そのものを見直す必要があるとの指摘も出た。

チェ・デソン崇実大学人工知能安全性研究センター長は、個別モデルのベンチマークスコアだけで能力や危険性を判断すると、実際のシステムが発揮し得る力を過小評価するおそれがあると述べた。

同じモデルでも、複数のエージェントや外部ツールを組み合わせ、追加の資源や権限を与えれば、性能は大きく変わるためだ。比較的小規模、あるいは入手しやすいモデルでも、エージェントとツールの組み合わせ次第では高い水準のサイバー攻撃能力を持ち得ると説明した。

チェセンター長は「モデル中心の発想にとどまらず、ソリューション全体の能力を問うべきだ」と語った。

単体モデルの性能評価にとどまらず、エージェント、外部ツール、実際の行動まで含めたAIシステム全体を、独立かつ客観的に評価すべきだという。アクセス権限の統制や行動モニタリング、事故発生時のシステム停止と権限剥奪、ログ保存や復旧といった要素も、安全評価の対象に含める必要があるとした。

韓国独自のベンチマークや評価基準を整備すべきだとの指摘も出た。

イ・ハヌルAIMインテリジェンス副社長は、最上位モデルの確保と同じくらい、そのモデルが実際にどの水準にあり、どの程度危険なのかを見極める能力が重要だと強調した。

国内開発モデルだからといって安全性が自動的に担保されるわけではないとして、海外の評価基準をそのまま受け入れるのではなく、国内の利用環境や脅威水準に即した評価条件と検証手法を整える必要があると述べた。

また、AIを安全に活用した経験や、事故情報の蓄積・共有も重要だと指摘した。「現実の脆弱性をどう発見し、どう対応したかという経験が蓄積されてこそ、韓国は国際的なAI安全論議で独自の基準と根拠を持って発言できる」と語った。

◆「追う側は止まれば遅れる」　現場ではリスクベース管理を提起

一方、産業界では、AI安全を理由にフロンティア技術の開発速度そのものを落とせば、後発の韓国と先行グループとの格差が一段と広がりかねないとの懸念も示された。

キム・ソンフンUpstage代表は、AIが人間の研究開発を補助する段階を超え、AI開発そのものに投入されることで、技術進化の速度が従来とは次元の異なる水準に達していると診断した。

キム代表は、超知能（Super Intelligence、SI）が再びAI開発に投入され、技術進歩を加速させる段階を「SI^2（エスアイ・スクエア）」と表現した。AIがAIを開発する再帰的自己改善が本格化すれば、先頭集団と追随組の格差は従来よりはるかに速いペースで広がり得るという見方だ。

キム代表は「追う側は止まれば遅れる」とし、韓国もフロンティアAIの能力確保を継続すべきだと強調した。

キム・ドンファン代表も、速度調整の必要性自体には理解を示しつつも、一律の開発制限は現実的ではないとの見方を示した。

同氏は「技術の進歩は、社会制度や倫理的合意の形成を大きく上回る速度で進んでいる。必要性には強く共感するが、現実的ではない」とし、「AI産業の育成と安全装置の整備を並行して進めるべきだ」と述べた。

その代案として、信頼性と安全性（Safety & Reliability）を前提に、AIのリスク水準に応じて管理の強度を変える「リスクベース管理」を提案した。ハルシネーションやデータ流出といったリスクを抑える技術的な安全装置を、まず公共分野や産業現場に実装し、その上で統制と検証が可能なエージェンティックAIの活用を広げるべきだと説明した。

課題は、高度なAIセキュリティ技術を確保しても、企業の現場ではすぐに実装しにくい点にある。

イ・ハヌル副社長は、企業では脆弱性を見つけるセキュリティ部門と、実際のサービス変更権限を持つ開発・運用部門が分かれているケースが多いと指摘した。加えて、パッチ適用によって既存サービスに障害が生じる可能性もあるため、発見された脆弱性を即座に是正しにくいのが実情だと説明した。

専門家らは、AIセキュリティ技術を実際の安全性向上につなげるには、導入前の検証や障害対応、パッチ適用権限、責任の所在などを含め、企業の運用体制全体を見直す必要があるとの認識で一致した。