Google DeepMindのデミス・ハサビスCEOは、汎用人工知能（AGI）の進展に伴うリスクに対応するため、米金融業界の自主規制機関FINRAをモデルにした「フロンティアAI標準機関」の創設を提唱した。X（旧Twitter）への投稿で構想を示した。

ハサビス氏は、「AGIに近づくほどリスクも同時に高まる」と指摘。これに対応する枠組みとして、連邦政府の監督下に置く官民連携の組織を想定している。理事会には独立した技術専門家やオープンソース側の代表を加え、運営資金の大半は業界が負担する形を描く。

同氏の構想では、同機関が定める基準を満たしたモデルを「フロンティア級」と位置付け、開発組織を「フロンティアラボ」に指定する。対象となるラボには、モデルカードの公開や内部セキュリティの強化、安全性研究への資源配分といったベストプラクティスに従うよう求める。

初期段階では、各ラボがモデル公開の30日前までに自発的に提出し、審査を受ける仕組みを想定する。制度が定着した段階で、こうした手続きを義務化する可能性があるという。評価対象には、サイバーセキュリティや生物学的脅威に加え、安全対策の回避行動や欺瞞の兆候も含める。評価項目は定期的に見直し、同機関自体が独自の非公開テスト能力を持つべきだとした。

ハサビス氏は、この枠組みは開発国やオープン型・クローズド型の別を問わず、フロンティア級モデル全般に適用されるべきだと説明した。米国が先行して制度化すれば、国際的な共通基準を整備する足掛かりになり得るとの見方も示した。

一方で同氏は、AGIには科学や医療の進展を後押しする大きな可能性があるとする一方、技術的な課題を克服した後には、新たな経済モデルや価値観、人生の意味を巡る問いに社会全体で向き合う必要があると指摘した。

また、こうした問題は技術者だけで決められるものではなく、社会のあらゆる構成員が議論に参加すべきだと強調した。その上で、フロンティアモデルはすでにサイバーセキュリティ分野で問題を露呈しており、能力向上が続けば核や生物学分野のリスクも近く顕在化しかねないと警告。「商業面でも地政学面でも競争が激化するなか、フロンティア技術の進展速度が社会の理解を上回っている」として、慎重な楽観主義こそが適切な戦略だと訴えた。