カリフォルニア州が高リスクAI向けの新たな安全規制案を示した。写真=Shutterstock

米カリフォルニア州は、高リスクの人工知能(AI)を対象に、州政府による緊急停止命令や再帰的自己改善(RSI)の規制を盛り込んだ新たな安全規制の方向性を打ち出した。AIの能力向上が人間の監督や安全検証を上回る事態に備え、公的介入の枠組みを強化する狙いがある。

台湾メディアのIT Homeが19日(現地時間)に報じたところによると、ギャビン・ニューサム知事はこのほど、「AI Safety in 2026 and Beyond」と題する報告書を公開した。報告書は16日に作成され、18日に正式公表された。

柱となるのは、AIの緊急停止権限、RSIの規制、独立した安全検証体制の整備の3点だ。

報告書ではまず、大規模な先端AIを開発する企業に対し、緊急対応計画の策定を義務付ける案を示した。AIエージェントの停止、システムアクセス権の回収、計算資源の隔離、モデル運用の停止といった措置を段階的に実施できるようにする。

また、AIが壊滅的な被害を招く事故を引き起こす、あるいは制御不能に陥る差し迫ったリスクがあるにもかかわらず、開発企業が対処できない場合には、州政府が緊急停止を命じられるようにする考えだ。停止措置は、他の手段でリスクを抑えられない場合に限って最小限の範囲で発動するとし、企業には裁判所に異議を申し立てる権利を認める。

規制対象には、AIが人間の関与なしに、より高性能な後継モデルを自律的に開発するRSIも含めた。

開発企業には、AI研究開発の自動化水準と投じた計算資源の報告も求める。自動化の進展が安全検証能力を上回り、重大リスクが拡大した場合には、州政府が関連する計算資源の利用割合を制限できるようにする案だ。

一方で、報告書は計算資源に一律の上限を直ちに設けることは推奨しなかった。リスクが一定水準を超えた場合に限って、規制権限を行使する考えを示した。

外部監視の強化も盛り込んだ。大規模AIの開発企業は、モデルの学習から配布まで、独立した検証機関による継続的な評価を受け、政府が定める安全性、セキュリティ、透明性の基準を満たす必要があるとした。

このほか、重大なAI事故の報告期限を現行の15日から48時間に短縮する案も盛り込んだ。差し迫った災害リスクについては従来通り24時間以内の報告基準を維持し、モデルの制御不能やモデル重みの窃取未遂なども報告対象に加える。

カリフォルニア州は昨年、AI安全法SB 53を導入した。さらに今年は、独立検証機関と監査人の登録制度を整備するSB 813とAB 1405も可決している。

もっとも、今回の報告書で示された緊急停止権限や計算資源の制限は、現段階では制度導入に向けた提言にとどまる。実施には、別途の法改正と制度整備が必要になる。

キーワード

#AI #カリフォルニア州 #AI規制 #緊急停止 #RSI #安全検証
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.