人工知能（AI）が人類の存立を脅かし得る経路として、超知能の暴走、生物兵器の開発、核戦争の誘発、社会基盤の不安定化など複数のシナリオが改めて議論されている。なかでも、AIが直接人間を攻撃するより、大規模失業や偽情報の拡散、政治的分断の深刻化によって社会が崩れていくシナリオの方が、相対的に現実味が高いとの見方が示された。

Gigazineが2日付で報じたところによると、英ニューサウスウェールズ大学でAI研究に取り組むトビー・ウォルシュ教授は、AIが人類を絶滅に追い込み得る5つのシナリオを整理した。各シナリオを評価するうえでは、現在のAIの技術水準と、実社会への影響の広がりを合わせて見る必要があると説明している。

第1は、超知能AIが人間の予測を超える形で行動し、人類を排除するケースだ。人間の能力を大きく上回るAIが登場すれば、その目標や行動原理を事前に理解できなくなる可能性があるという。

もっとも、特定分野で高い性能を示すAIが存在するからといって、あらゆる領域で人間を凌駕する超知能がすぐに実現するとは限らない。ウォルシュ氏も、超知能の実装にはなお相当の時間を要する可能性があるとの見方を示した。

第2は、AIが与えられた目標を過度に忠実に実行し、人間に被害をもたらすシナリオだ。哲学者ニック・ボストロムが示した、いわゆる「クリップ生産機」の思考実験のように、AIが特定の目標を極端に最適化する過程で、人間の価値や安全を顧みなくなるおそれがある。

ただ、現実世界には法律や制度、物理的制約など複数の障壁がある。仮に超知能AIが特定の目標を持ったとしても、現実空間で無制約にそれを実行できるとまでは言い切れないという。

第3のリスクとして挙げられたのが、AIを利用した生物兵器の開発だ。高度なAIが生物学の知見を活用し、危険な病原体の設計や開発を支援する可能性があるとされる。

一方で、人類全体を脅かす病原体の作成は別の論点だ。病原体は伝播力と致死率が両立しない場合もあり、AIが設計を支援したからといって、直ちに人類絶滅につながるわけではないとの指摘もある。

近年は、AIの生物学研究への応用例もこの議論を後押ししている。スタンフォード大学の研究チームは、AIが提案したDNA配列を基に約300種のウイルスを合成して試験し、一部が大腸菌に感染したと発表した。

ただし、この研究の目的は人類への攻撃ではなく、細菌感染の治療法開発にあった。対象となったのも、人に感染するウイルスではなく、バクテリオファージだった。

第4は、AIが核戦争を誘発するシナリオだ。AIが軍事の指揮・統制システムに侵入したり、誤った情報を与えたりすることで、核兵器使用の判断に影響を及ぼす可能性が懸念されている。

核兵器関連システムが外部ネットワークから分離されていても、安全性が完全に担保されるわけではないとの指摘もある。過去には、イランの核施設を狙ったマルウェア攻撃の例もあり、物理的に隔離されたシステムであっても、外部から持ち込まれた情報や機器を通じて影響を受ける可能性があるという。

核戦争は、AIが直接人類を攻撃しなくても甚大な被害をもたらす。ラトガース大学の研究チームなどが2022年に公表した研究では、米国とロシアの間で大規模な核戦争が起きた場合、その後の気候変動と食料生産の減少により、50億人超が死亡し得るとの推計が示された。

ウォルシュ氏が最も現実味の高いリスクとして挙げたのが、第5の「社会崩壊」だ。AIが人類を直接攻撃するのではなく、雇用、情報環境、人間関係に広範な衝撃を与え、社会システムそのものを不安定化させるシナリオを指す。

AIによる大規模失業が社会不安を増幅し、偽情報の拡散と政治的分断の進行で社会の信頼基盤が損なわれる可能性がある。さらに、AIが主要な対話相手として浸透し、人と人とのつながりが弱まれば、既存の社会的セーフティーネットが揺らぐおそれもあるとした。

このシナリオが注目されるのは、超知能の出現を前提としないためだ。労働市場の変化、偽情報の拡散、AIへの依存度の上昇はいずれもすでに現実に進行している。

ウォルシュ氏はAIリスクに警鐘を鳴らす一方で、過度に恐怖をあおるべきではないとの立場も示した。まだ実現していない超知能の反乱だけに関心を集中させるのではなく、すでに表面化している雇用や情報環境の変化にも目を向け、対応を急ぐべきだという趣旨だ。

AIリスクを巡る議論は、「AIが人間を攻撃するか」という問いにとどまらない。AIが社会の意思決定、情報流通、労働市場、人間関係に及ぼす影響が拡大するなか、技術の制御と並行して、社会システムの耐性を高めることが重要な課題になっている。