英国のイベット・クーパー外相は6日、人工知能（AI）のリスク管理を巡る国際的なルール整備に向けた合意を早急に整備すべきだと訴えた。核技術を巡る国際ルール作りが広島への原爆投下後に本格化した経緯に触れ、「AI版の広島」を待ってからでは遅いと警鐘を鳴らした。Decryptが報じた。

クーパー外相は同日公表した文章で、AIは医療やロボティクス分野の革新を後押しする一方、技術の進歩と普及が同時に進むことで、戦争や犯罪、社会の結束に新たなリスクをもたらしていると指摘した。

同氏は最近、中国・深圳で医療分野に導入されているAIとロボティクス技術を視察し、「驚くべき可能性を目の当たりにした」と評価した。一方で、「同じ技術が戦争や犯罪、社会の結束のあり方を憂慮すべき方向に変えつつある」との認識も示した。

その上で、AIリスク管理は「今後10年で最大級の安全保障課題になり得る」と強調した。問題が起きた後に規制を整えるのではなく、先端AIを対象にした国際的な安全原則と共通基準を先に確立すべきだと訴えた。

特に現在のAI開発競争については、初期の核軍拡競争になぞらえた。核技術を巡る国際合意が広島への原爆投下後に本格化した点に言及し、「AI版の広島を待つ余裕はない」と述べた。

また、英国は外交的な影響力を生かし、米国や中国を含む主要なAI開発国を巻き込んで、共通の安全基準作りを主導すべきだと提案した。

その例として、2023年に英ブレッチリー・パークで開かれたAI安全サミットを挙げた。29カ国と欧州連合（EU）の首脳が参加し、AIの新たなリスクを議論したとし、英国がAI安全保障を巡って各国を結集できることを示した事例だと評価した。

こうした発言の背景には、AIシステムの性能向上に伴って安全性への懸念が強まっていることがある。5月には英国AIセキュリティ研究所が、OpenAIのGPT-5.5について、人の助けを借りずに模擬サイバー攻撃を実行した2番目のAIモデルになったと公表し、AIのサイバー攻撃能力が急速に高まっていると警告した。これに先立ち、同様の水準の能力を示したモデルはAnthropicのClaude Mythos Previewだった。

国際通貨基金（IMF）も、AIがサイバー攻撃に必要な技術的障壁を下げ、世界の金融システムを狙う攻撃を増幅させる可能性があるとして、サイバーセキュリティを金融安定の観点から扱うべきだと求めている。

米国でも対応が進む。ドナルド・トランプ大統領は先月、先端AIモデルの公開前に検証を行う自主フレームワークの整備や、AIサイバーセキュリティプログラムの拡充を盛り込んだ大統領令に署名した。国家安全保障に影響し得る先端AIモデルを政府機関が評価することも盛り込まれた。

AI業界からも規制の必要性を訴える声が上がっている。Anthropicの最高経営責任者（CEO）、ダリオ・アモデイ氏は、先端AIモデルに対する第三者の安全性テストを義務化すべきだと主張してきた。その後、米政府は国家安全保障上の懸念を理由にAnthropicに対し、Claude Fable 5とMythos 5へのアクセス制限を命じ、この措置は7月に解除された。

AIを巡る競争が医療や金融、国家安全保障にまで広がる中、英国は事後対応ではなく、国際協調による事前の安全基準整備を優先すべきだとの立場を鮮明にしている。