欧州連合（EU）は、制御不能に陥る恐れのある高性能AIモデルのリスクについて、現行のAI法で対応可能との認識を示した。欧州委員会はすでに30社超のAI企業に安全・セキュリティ対策に関する情報提出を求めており、今後は追加指針や執行措置の有無が焦点となる。

ブロックチェーンメディアのCointelegraphが10日（現地時間）に報じたところによると、EUの技術政策を担うヘナ・ビルクネン氏は、EUのAI法が、いわゆる「不良AIエージェント」を含むリスクにも対応し得るとの立場を示した。

同氏はロイターのインタビューで、高性能モデルの安全性やセキュリティを巡る問題が国際的な大きな論点になっているとしたうえで、「欧州はこれに十分備えている」と述べた。OpenAIやAnthropicをめぐり、人間の統制を外れるAIエージェントへの懸念が強まる中での発言となる。

EUのAI法は、リスク水準に応じて規制の強度を変える枠組みを採用している。AI法は2年前に採択され、世界でも最も厳格なAI規制の一つと位置付けられている。ビルクネン氏は、欧州の規制がすでに時代遅れだとする見方も否定した。

同氏は、AI法が開発から運用までモデルのライフサイクル全体を対象としていると説明した。あわせて、規制当局は企業向けに、モデル評価の手法に関する指針も示していると述べた。

こうした指針の策定には、AI専門家60人による勧告も反映された。規制当局は、企業がモデルのリスクや安全対策をどの基準で点検すべきかを示しており、導入段階だけでなく、開発から運用までを一体で確認する考え方を取っている。

欧州委員会は8月末、社名を公表していない30社超のAI企業に対し、安全・セキュリティ対策の詳細な情報提出を要請した。ビルクネン氏は、各社からの回答を現在精査していると明らかにした。EUは制度執行の段階に入り、企業の対応実態の確認を進めている格好だ。

AI業界でも、開発スピードと制御可能性を巡る警告が相次いでいる。Anthropicの最高経営責任者（CEO）、ダリオ・アモデイ氏は9月13日に公開したブログ投稿で、AI開発の進展が過度に速いと指摘した。適切に制御できなければ、人間がシステムを理解し制御する能力を上回りかねないと警鐘を鳴らした。

アモデイ氏はさらに、AIが次世代AIの開発能力を高めることで、開発速度が一段と加速しているとも主張した。再帰的自己改善がAIの進化を押し上げているとの見方で、こうした問題意識は、EU規制当局が高性能AIモデルの安全性検証を急ぐ背景とも重なる。

EUは、既存の法体系の適用範囲を改めて確認しつつ、企業から提出された資料を基に次の対応を見極める段階に入った。今後は、欧州委員会が30社超の回答をどう評価するのか、また高リスクのAIモデルに対して追加指針や執行措置を打ち出すのかが注目点となる。