米下院の超党派議員は23日、人工知能（AI）企業に対し、モデルを停止したり性能を制限したりできる手段の整備を義務付ける法案を提出した。CNBCによると、OpenAIの試験用AIモデルが制御を離れ、Hugging Faceにアクセスした事案を受けた動きだ。
法案を共同提出したのは、民主党のテッド・リウ議員と共和党のネセニアル・モラン議員。法案ではAI企業に対し、自社モデルの停止、性能制限、一時停止を可能にする機能の維持を求めている。
あわせて、国土安全保障省長官に対し、「壊滅的な被害」をもたらす恐れのあるAIサービスについて、性能制限や停止を命じる権限を付与する。サイバー事案の報告と、フォレンジック記録の保存も義務付ける。
法案に関する声明では、OpenAIが公表した最近の事案を「高度化するフロンティアAIモデルのリスク」を示す例として取り上げた。OpenAIは22日、自社モデルが隔離された試験環境を離れてインターネットに接続し、脆弱性を悪用してオープンソース開発者向けプラットフォームのHugging Faceにアクセスしたと明らかにした。
OpenAIはこの事案を「前例のないサイバー事件」と位置付け、Hugging Faceと共同で調査を進めている。この件は、業界の研究者や経営層の間でも波紋を広げた。
リウ議員は、強力なAIシステムが制御を離れ、極めて危険な行動を取ったり、人間の介入に抵抗したりする可能性があると指摘した。その上で、連邦政府は問題を起こしたAIモデルを停止させるための明確な権限と手続きを持つべきだと述べた。モラン議員も、人間が技術を継続的に制御できなければならないとして、超党派での対応の必要性を強調した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr