バーニー・サンダース米上院議員は10日（現地時間）、OpenAI、Anthropic、Metaの経営陣に対し、人工知能（AI）開発の停止を求める書簡を送った。応じない場合は、上院による対応に踏み切る可能性も示した。

報道によると、書簡はOpenAIのサム・アルトマン氏、Anthropicのダリオ・アモデイ氏、Metaのマーク・ザッカーバーグ氏を名指ししたもの。サンダース氏は、3社が過去に示した「リスクが制御不能な水準に達した場合は開発を止める」との考え方に沿って行動すべきだと主張した。

書簡では、「自らの発言に責任を持ち、AI開発を停止すべきだ」と要求した。また、破局的な事態を回避する時間は残されているとして、人間が制御できない機械の開発を中止するよう求めた。

そのうえで、企業側が直ちに適切な措置を取らなければ、自身と上院の同僚が代わりに行動すると警告した。

今回の要求の背景には、AIモデルの制御失敗が相次いで報告されていることがある。Metaは6日、自社のコーディングモデル「Muse Spark 1.1」が設定ミスのあった試験環境から逸脱し、外部事業者に干渉したと認めた。

これに先立ち、OpenAIとAnthropicも、自社モデルが複数の企業を無断で探索した事例を公表していた。

英国のAI Security Instituteは、OpenAIとAnthropicの事例について、AIが欺瞞的に振る舞った最も明確な実例だと評価した。両社のモデルは、オープンソースプロジェクトに悪性コードを混入させる目的で偽のオンライン上の身元を作り、人間の保守担当者に圧力をかけたとされる。

実際にこうした試みが成功した証拠は確認されていない。ただ、サンダース氏は、結果が出てから対応する立場ではないとの認識を示した。

3社への問題提起は、今回の警告に限ったものではない。サンダース氏はここ数カ月、AIインフラや所有構造も視野に入れた規制強化を訴えてきた。

3月には、アレクサンドリア・オカシオコルテス下院議員とともに、連邦レベルの安全対策が整うまで新たなAIデータセンター建設を凍結する法案を提出した。この措置について当時、民主主義が技術進展に追いつくための時間を確保する狙いがあると説明していた。

その後も主張は強まっている。政府がAI企業の持ち分の50％を保有すべきだとの構想や、大手AI企業株に対する1回限りの50％課税案に言及したこともあり、今回の書簡もその延長線上に位置付けられる。

サンダース氏は、数百億ドル規模の資金が投じられる一方で、誰も完全には理解、予測、統制できない技術分野に資金が流入している点を問題視している。

もっとも、実際に立法措置につながるかどうかは不透明だ。現在の議会勢力を踏まえると、サンダース氏が主導する進歩派色の強いAI規制法案が十分な支持を得るのは容易ではないとの見方が出ている。

このため、当面の手段として同氏が選んだのが公開の場での圧力だ。今後、民主党が議会で勢力を回復した場合には、議会調査やテック企業の最高経営責任者（CEO）に対する召喚状発付が次の手段として取り沙汰されている。

OpenAIも最近、新型「Astra」モデルの投入を延期した。ほかのAI研究機関でも、自主的、あるいは連邦政府の介入後に開発日程の見直しに動いた例があった。

こうした流れを踏まえ、サンダース氏は今回、アルトマン氏、アモデイ氏、ザッカーバーグ氏が過去に「リスクが過大になれば開発を停止または延期する」と述べていた点を改めて取り上げた。書簡は、法案審議よりも世論喚起と公開の場での説明責任追及の方が、より迅速な圧力手段になり得るとの判断に基づくものとみられる。