Anthropicのダリオ・アモデイ最高経営責任者（CEO）は10日（現地時間）、人工知能（AI）規制について、透明性の開示を求める規制の段階から、法的拘束力のある実効的な規制へ移行すべきだとの考えを示した。

アモデイCEOは公開エッセー「Policy on the AI Exponential（指数曲線とAI政策）」で、「AIのリスクはすでに現実のものになっている」と指摘した。Anthropicは2025年にカリフォルニア州、ニューヨーク州、イリノイ州の透明性関連法案を支持してきたが、現時点ではそれだけでは不十分だと主張している。

同氏が参考例として挙げたのは、米連邦航空局（FAA）の規制手法だ。一定規模以上の計算資源で訓練されたフロンティアAIモデルについては、サイバーセキュリティ、生物兵器、AIの制御喪失、自動化による研究開発の加速という4つの領域で、第三者による評価を義務付けるべきだとした。そのうえで、評価結果に応じて政府がモデルの公開停止や撤回を命じられる仕組みが必要だと訴えた。

Anthropicはこれに合わせて、フロンティアAIモデルのテストに関する立法提案と、雇用代替に備える政策枠組みも公表した。

アモデイCEOは、AIについて「経済活動において、インターネットやモバイル以上に根本的な変化をもたらす」と述べる一方、「自動車、航空機、医薬品のように、設計や運用を誤ると大規模な被害を招き得る技術に適用される水準の規制が適切だ」と指摘した。さらに、より強力なAIシステムが登場した場合には、核物質に準じる規制が必要になる可能性にも言及した。

また、AIの進化の速さと政策立案の遅れについては、『指輪物語』に登場する森の番人になぞらえて説明した。AIは急速に進化している一方で、政策機関の対応は遅いとし、「その森がいま目を覚ましつつある」として、対応を急ぐ必要性を強調した。