OpenAIのサム・アルトマンCEOは2月28日、米国防総省と自社のAIモデルを軍事ネットワークに導入する契約を締結したと明らかにした。契約には、大規模監視の禁止や、兵器の運用を人間の管理下に置くといった安全面の原則を盛り込んだ。米メディアTechCrunchが報じた。
OpenAIは同日、公式ブログで合意内容を公表した。アルトマンCEOは、AIの悪用を防ぐための技術的な安全対策を構築すると説明し、「政府側も重視していた点だ」と述べた。
今回の契約は、ドナルド・トランプ大統領が、競合するAnthropicの製品を国防総省で使用できないと表明した直後にまとまった。
Anthropicはこれまで、自律型兵器システムや大規模監視への利用に制限を設けるべきだと主張してきた。一方、トランプ大統領はこうした方針に反対し、米国防総省にAnthropic製品の使用中止を指示した。
これに対しOpenAIは、国防総省との協力を進める一方で、契約上の原則として「大規模監視の禁止」と「兵器の運用は人間の管理下に置くこと」を明記したと強調した。
またOpenAIは、自社の防衛関連契約がAnthropicの求めていた倫理基準を満たすものだと主張し、他のAI企業にも同様の枠組みへの参加を呼びかけた。
著者について
Chi-gyu Hwang
delight@d-today.co.kr