米AI企業のAnthropicは19日（現地時間）、重大な人的被害や巨額の財産損失を招く恐れがある先端AIモデルについて、米政府が公開や利用の差し止めを求められる連邦法案の草案を米議会関係者に提示した。政府介入の要件を厳しく絞り込んでいる点が特徴で、規制の実効性を巡る議論を呼びそうだ。

Business Insiderによると、Anthropicはこのほど、最先端AIモデルの安全性とセキュリティに関する連邦ルールを定める法案草案を、米議会関係者に送付した。

焦点となるのは、政府がモデルの公開や利用に介入できる基準だ。草案では、50人を超える死亡・重傷被害、または10億ドル（約1500億円）を超える財産被害につながる差し迫った重大リスクが想定される場合に限り、介入を認める。対象となるリスクの類型も、生物兵器の開発・拡散、開発企業の制御を離れたAIの稼働、サイバー攻撃などに限定した。

独立した安全性評価の枠組みも盛り込んだ。米商務省に登録した外部評価機関が、AI開発企業とそのモデルを定期的に評価し、重大リスクを確認した場合は、評価の完了から72時間以内に商務省へ報告しなければならない。評価機関はAI企業から報酬を受け取れるが、評価結果によって報酬額が変動してはならないとしている。

商務省がリスクを確認した場合は、ワシントンD.C.の連邦地裁に対し、モデルの公開の差し止めを申し立てることができる。一方で、他の連邦機関が独自判断で開発や配布、内部利用の停止に踏み切ることは制限した。

法案草案にはこのほか、AI企業の安全管理体制の整備、透明性レポートの公表、内部告発者の保護、重大事故の届け出義務も盛り込まれた。

論点の一つは、連邦規制と州法の関係だ。草案は、リスク開示や第三者評価、事故報告など一部の領域で連邦法を優先適用すると定めた。州政府の規制権限が弱まる可能性があるとの懸念も出ている。Anthropicは「6月に公表したAI政策フレームワークを反映した合理的な提案だ」と説明している。

もっとも、今回の草案は正式に提出された法案でも、成立済みの法律でもない。米議会では、AIの安全規制と政府介入の範囲を巡る協議が続いている。