米国と中国の安全保障専門家が、人工知能（AI）を核指揮系統や核兵器使用の判断から切り離す共通原則を提言した。核指揮・統制・通信（NC3）や核使用の判断は人間だけが担い、AIの自律的判断は認めないとする内容で、両国間の軍事AIホットライン整備も盛り込んだ。

Decryptが17日（現地時間）に報じた。提言は、Brookings Institutionと上海のFudan Universityがまとめた報告書に盛り込まれた。報告書は、これまで核兵器分野で適用されてきた「人間による統制」の原則を、軍事AIの運用にも広げる必要があると訴えている。

提言の中核は、NC3に関わる意思決定からAIの自律的判断を排除する点にある。研究チームは、ドナルド・トランプ米大統領と習近平中国国家主席が、相手国のNC3や重要インフラを標的とするサイバー攻撃の実行判断について、AIではなく人間だけが決定することで合意し得るとした。そのうえで、相手国のNC3や重要インフラに対するサイバー攻撃の開始判断は、人間のみが下すべきだと明記した。

NC3は、脅威の探知から核使用の判断、発射命令の伝達までを担う。どこか1段階でも機能不全が起きれば、通信障害や攻撃の誤認、先制攻撃の誘発、偶発的または未承認の発射につながる恐れがある。報告書は、偶発事象や人的ミス、予測しにくいAIの挙動、無許可の主体による行為が重大な戦略的帰結を招くリスクを、同時に抑える必要があると指摘した。

一方で研究チームは、この原則を軍事AIの他分野へ広げることが、米中間で広範なサイバー安全保障原則の合意を前提とするものではないと説明した。戦略的影響を及ぼす攻撃は、人間の意図を反映し、人間の責任の下に置かれるべきだという原則の拡大は、ワシントンと北京が他のサイバーセキュリティ原則まで共有すべきだという意味ではないとしている。

提案にはこのほか、両国間の軍事AIホットライン構築や、「人間による統制」を巡る共通定義の整備も含まれた。背景には、AIの判断が極めて高速で、挙動の予測も難しいとの懸念がある。報告書は、危機時に指導者が衝突のエスカレーションを止める時間をほとんど確保できなくなる恐れがあると警告した。とりわけ軍事分野では、ミリ秒単位の自動化判断が誤警報やサイバー攻撃を核危機へ拡大させるとの懸念が強まっている。

こうした問題意識は、今年2月に実施されたウォーゲームでも示された。OpenAI、Google、Anthropicの各モデルは、試験シナリオの95％で核兵器の使用を選択した。ただ、専門家は当時のシミュレーション設計そのものが緊張の高まりを誘導した可能性があると指摘している。

Anthropicは同月、米国防総省からClaudeを巡り、大規模監視と完全自律兵器に関する制限の解除を求められたものの、これを拒否した。その後、トランプ政権は連邦機関にAnthropic技術の使用停止を指示したが、連邦裁判所は8月28日、政権がAnthropicに対し違法な報復を行ったと判断した。

AI開発の速度を落とし、人間による統制を維持すべきだとの声は業界全体にも広がっている。今月初めには、Anthropicの最高経営責任者（CEO）ダリオ・アモデイ氏が、開発企業に性能競争のペースを緩めるよう呼びかけた。サム・アルトマン氏とイーロン・マスク氏も支持する姿勢を示している。OpenAIは、企業が反トラスト法（独占禁止法）に抵触せず開発速度の調整に動けるかどうか、議会に照会している。

もっとも報告書は、包括的な開発抑制で合意できていない現状を踏まえ、まず適用可能な最低限のルールに対象を絞った。少なくとも核指揮系統への攻撃承認と核兵器使用の判断だけは、人間にのみ委ねるべきだという立場だ。研究チームは「軍事AIガバナンスは先送りできる交渉ではなく、時間との競争だ」と訴えた。