政府は、人工知能（AI）の制御不能リスクに備え、「キルスイッチ」のような統制手段の整備を進める。あわせて、外部からのサイバー脅威には、開発中のサイバーセキュリティ特化AIモデルや今後開発するフロンティアAIモデルを活用し、安全・信頼体制の構築を急ぐ。12月には「国家AI安全エコシステム構築マスタープラン」を策定する方針だ。

ペ・ギョンフン副首相兼科学技術情報通信部長官は6日、国会の科学技術情報放送通信委員会による同部の国政監査で、「AIは特定の任務を与えると止まらない可能性がある」と述べ、「キルスイッチのような人間による統制装置が必要だ」との認識を示した。

同日の監査では、キム・ウヨン共に民主党議員が、AI安全研究所による外部攻撃防御実験の結果に触れ、AI統制技術の必要性を提起した。

キム議員によると、AI安全研究所は、プロンプト注入攻撃、内部保存情報の改ざん、メモリ偏向の3類型を対象に防御実験を実施した。その結果、多くのケースで防御に失敗したという。特にメモリ偏向攻撃では、攻撃者の意図に沿う応答率が91.9％に達した。

これに対し、ペ副首相は「AIが人間の統制範囲を超える可能性はある」と述べた上で、「特定のサイトを分析せよという任務を与えると、最後まで解決策を探し続ける」と説明した。

その上で、「だからこそ、キルスイッチのような人間による統制装置が必要だ」と強調し、国際的な連携によるAI安全対応の必要性にも理解を示した。

政府は、AI自体の統制手段の整備に加え、AIを活用したサイバー脅威への対応力の強化にも乗り出す。

ペ副首相は「すでにセキュリティAIモデル事業を進めており、独自のAIサイバー安全保障対応力の整備を進めている」と述べた。「来年度予算を活用し、韓国のサイバー安全を守る水準の成果を出したい」とも語った。

さらに、「先に述べたフロンティアAI事業もこの中に含まれる」とし、「AI安全全般について、政府として多角的に検討し準備を進めている」と明らかにした。

一方で、AIの性能向上やインフラ投資に比べ、安全・信頼分野の予算と人員が不足しているとの指摘も出た。

イ・ジュヒ共に民主党議員は、AI性能・インフラ関連予算が6兆1490億ウォンであるのに対し、安全・信頼分野の予算は274億ウォンにとどまると指摘。両者には約224倍の開きがあるとして、投資の偏りを問題視した。

また、AI安全研究所の人員も38人規模にとどまっているとして、関連予算と人員の大幅な拡充を求めた。

これに対し、ペ副首相は「AI性能が急速に発展するほど、信頼と安全は極めて重要になる」と述べ、「AI安全研究所の人員と予算を増やし、必要な能力を確保することが重要だ」と応じた。

政府は12月、「国家AI安全エコシステム構築マスタープラン」を策定・公表する計画だ。

同プランには、（1）国家AI安全管理体制の構築（2）先端AIへの安全対応能力の強化（3）国民の日常における安全なAI環境の整備――の3大戦略を盛り込む。

ペ副首相は「国際社会の基準を追うだけでなく、先導できる水準の能力を備えるための準備を進めている」と述べ、「AI安全にきめ細かく対応できる体制を構築する」と語った。