ウルズラ・フォンデアライエン欧州委員会委員長は16日、先端AIの開発ペースを巡る議論を主導する方針を明らかにした。主要なAI研究機関をブリュッセルに招き、規制当局が最先端モデルの開発をどう監督・支援できるかを協議する考えだ。

ブロックチェーン関連メディアのCryptopolitanが同日報じた。フォンデアライエン委員長は、急速に高度化するAIシステムのリスクを念頭に、開発競争の加速に対する懸念を示した。

委員長はフランス・ストラスブールで行った年次演説で、「自己改善型モデルがもたらし得るリスクは一段と明確になっている」と述べた。技術水準が急速に高まる一方で、それを十分に管理する仕組みが追い付いていないとの問題意識を示した形だ。

こうした発言は、AI業界内部から出ている警戒論とも重なる。Anthropicのダリオ・アモデイCEOは、安全性を理由に、より高性能なモデルの開発ペースを落とすべきだと訴えてきた。xAIを率いるイーロン・マスク氏や、OpenAIのサム・アルトマン氏も同様の主張に同調している。

フォンデアライエン委員長は、技術を開発する企業の経営陣自身も、高度な自己回帰型システムへの移行を急ぐべきではないとの見方を示していると指摘した。そのうえで、規制当局がこうした懸念を重く受け止める十分な理由があると強調した。

一方、業界内の見解は割れている。Nvidiaのジェンスン・フアン氏とMetaのマーク・ザッカーバーグ氏は、開発ペースの抑制論に慎重な姿勢を示した。ザッカーバーグ氏は「各研究機関には、自社モデルを安全に訓練するために必要な速度で進める責任とインセンティブの両方がある」と述べた。

さらに、法的責任への懸念だけでも、開発企業には有害なシステムが一般向けに提供されないよう防ぐ十分な動機があると主張した。

この問題を巡っては、欧米の温度差も浮かぶ。フォンデアライエン委員長の姿勢は、AI安全を巡る懸念に否定的だったドナルド・トランプ米大統領と対照的だ。EUはすでにAI法を通じて、拘束力のある規制の枠組みを整備している。

AI法では、規制当局が安全性に問題があると判断したモデルの配布を停止できるほか、独立した評価機関が高度なシステムを試験できるようにしている。

フォンデアライエン委員長はAI法を「中核」と位置付け、欧州は世界的なAIガバナンスの設計で重要な役割を担えると主張した。あわせて、最先端AIモデルの試験と評価を巡る国際協力を拡大すべきだと述べた。

招請対象にはカナダと英国も含まれる見通しだ。一方、今回の構想では米国と中国への言及はなかった。両国は現在のAI競争の中心とみられている。

EUの戦略は、AI覇権を競うことよりも、経済面での活用価値を確保する方向に軸足を置くものとして示された。フォンデアライエン委員長は、保健、輸送、農業・食品、先端製造、国防・宇宙を優先分野に挙げた。

EUは、規制権限と産業分野への実装戦略を組み合わせる形で、AI政策を設計する構えだ。

演説では、子どものソーシャルメディア利用の問題にも言及した。委員長は、13歳未満のソーシャルメディア利用を禁止し、15歳未満の若年層による個人アカウントの利用も制限する案を提起した。プラットフォーム事業者に対し、未成年者にとって安全なサービスであることの立証を義務付ける案も含まれる。

欧州委員会は関連措置の詳細を17日に追加公表する予定だ。ブリュッセルがAI安全規制と産業活用戦略を同時に進める方針をどこまで具体化するかが注目される。