ノースウェスタン大学ロースクールのジョン・O・マクギニス教授は、フロンティアAIの開発ペースを落とすべきだとする議論に反論した。開発を減速させれば、AIの悪用に対抗する新たな防御手段の投入も遅れ、すでに存在する脅威は残り続けると主張している。

同氏は米Wall Street Journal（WSJ）への寄稿で、「フロンティアAIそのものが一種のファイアウォールになり得る」と指摘した。開発の速度を落とすことは、進歩だけでなく防御の強化まで犠牲にしかねないという立場だ。

マクギニス氏は、AIリスクを大きく2つに分ける。1つは、AIが人間の制御を離れて事故を引き起こすリスク。もう1つは、悪意ある人間の指示に従って悪用されるリスクだ。

Anthropicのダリオ・アモデイCEOは最近、主要企業間の足並みをそろえ、モデルのテスト時間を確保するため、フロンティアAI開発の減速を提案した。これに対しマクギニス氏は、その考え方は前者のリスクには一定の効果が見込める一方、後者に対抗するツールの導入を遅らせる可能性が大きいと指摘した。

同氏によれば、制御喪失のリスクは前例がなく、その深刻度を巡って専門家の見解も分かれている。一方で、犯罪者やテロリスト、中国やロシアのような権威主義国家がAIを悪用する危険性は仮説ではないとする。「歴史的に見ても、悪意ある個人や抑圧的な国家は常に最新技術を使って深刻な被害を生んできた」と強調した。

例えば、犯罪者が既存のAIモデルを使って病院のセキュリティ侵害を試みる場合、より高度なモデルは攻撃の前に防御能力を高める手段になり得る。開発を遅らせたとしても、すでに犯罪者の手元にあるツールが消えるわけではないというのが同氏の見方だ。

その例として、Palo Alto Networksが「AnthropicのClaude Mythosは、過去のモデルが見逃していた複雑な脆弱性を発見した」と説明した点を挙げた。

より高性能なモデルが犯罪者の攻撃ツールになり得るとの懸念については、「高度なモデルの開発は、それを広く無制限に開放することを意味しない」と線を引いた。米国のフロンティアAI企業は、悪意ある攻撃への転用を防ぐ安全対策を組み込み、法的リスクやレピュテーションリスクの観点からも、不正アカウントを監視・遮断する動機を持つと説明している。

同氏は「Anthropicは4月、JPMorgan Chaseなどの顧客に未公開版のClaudeを提供した。Googleもヘルスケアや金融のネットワーク向けに新機能を先行提供している。これは防御側に先行する機会を与えるものだ」と述べた。

一方で、中国企業が提供するオープンウェイトモデルについては、利用者が容易に改変し、悪用できる点が問題になり得ると指摘した。「開発ペースを落とす国際条約を結んだとしても、すでに広く流通したモデルを回収することはできない」とし、「精霊はすでに瓶から出てしまった」と表現した。

さらにマクギニス氏は、自身の論理は国家間の安全保障競争において、より強い説得力を持つと強調した。「米国政府が未公開モデルまで利用できるなら、軍事面で大きな優位に立てる。それを知る他国は、そもそも攻撃を思いとどまる可能性がある」と述べている。