Google DeepMindのデミス・ハサビスCEOは14日、最先端AIモデルを審査し、サイバー攻撃や生物学的脅威などの国家安全保障リスクを評価する米主導のAI標準機関の設立を提唱した。CNBCが報じた。

同氏は、こうした機関を連邦政府の監督下に置き、官民が連携して運営する枠組みを構想し、示した。

ハサビス氏は同日、Xへの投稿で、人工汎用知能（AGI）に伴うリスクへの対応には緊急の措置が必要だと訴えた。最先端AIモデルがサイバーセキュリティに及ぼすリスクはすでに現実のものになっており、性能がさらに高まれば、核やバイオに関するリスクも近く現実味を帯びる可能性があると指摘した。

そのうえで、米国は経済力と技術力を背景に、AIの枠組みづくりを主導できる立場にあると主張した。新たな機関については、米金融業界規制機構（FINRA）のように連邦政府の監督を受ける官民パートナーシップ、もしくは自主規制機関として設ける案を示した。

理事会には、独立した先端技術の専門家に加え、オープンソース側の代表も含めるべきだとした。

また、この機関が大規模なテストを実施し、最高水準の技術人材を確保するには、多額の資金と計算資源が必要になると強調した。財源は業界からの拠出が中心になる可能性が高いとの見方も示した。

制度設計としては、まず最先端AIの研究機関が、モデル公開の30日前までに自主的に機関へ提出し、審査を受ける仕組みを提案した。その有効性が実証されれば、米国市場で配布する前の義務的な手続きへ移行する案も示した。

エージェント型AIの試験では、安全装置を回避しようとする挙動や欺瞞の兆候を点検するほか、AI生成画像へのデジタル透かしや、人間が判読できる出力トークンの生成といったベストプラクティスを確認する運用が想定されるとした。

こうした提案の背景には、最先端AIモデルの規制を巡る業界と政府の対立がある。ハサビス氏は1カ月前、ドナルド・トランプ大統領が出席した主要7カ国（G7）会合で、AnthropicのCEOダリオ・アモデイ氏とともに、米国主導でAIのルールと標準を整備する連合体の構築を呼びかけていた。

今月初めには、サム・アルトマン氏も英Financial Timesへの寄稿で、同様の機関の必要性を提起した。

足元では、Anthropicが、トランプ政権が最先端モデルに一時的な輸出規制を適用した後、当局との協議を進めた。OpenAIも、新モデルの公開を制限するよう求める米政府の要請を初めて受けたという。

米中のAI開発競争が激しさを増すなか、米議会は、米企業による中国製AIモデルの採用を抑える方策を検討している。米国務省も、この問題に関連して深刻な懸念を示している。