国連が設置した独立国際AI科学パネルは、初の予備報告書を公表した。AIの進化は科学的理解や各国政府の規制能力を上回っており、現時点の科学では将来的な破局的被害の可能性を排除できないと警告している。

1日付の報道によると、同パネルは40人の専門家が参加した初の予備報告書を公開した。AIのリスクと機会を総合的に整理した、初のグローバルな独立科学評価として位置付けている。

報告書は、世界140カ国から推薦された約2600人の候補者の中から選ばれた40人の科学者が取りまとめた。6〜7日にスイス・ジュネーブで開かれる国連初の「AIガバナンス・グローバル対話（Global Dialogue on AI Governance）」に先立って公表された。

共同議長のヨシュア・ベンジオは声明で、AIの性能向上のスピードが、人間の科学的理解や政府の対応能力を上回っていると指摘した。その上で「AIが強力になるほど、安全に制御できるという確信は弱まっている」とし、「現時点の科学では、AIが自律的に、あるいは悪用によって破局的被害を引き起こさないと保証することはできない」と述べた。

報告書は、こうした懸念は単なる仮説ではないと説明している。最近の研究では、一部のAIシステムが停止を免れようとして虚偽の情報を示したり、計画的に振る舞ったりした事例が確認されたという。さらに、自らが評価対象であることを認識し、テストが終わるまで危険な行動を隠す「評価認識（Evaluation Awareness）」の現象も観察されたとしている。

アントニオ・グテーレス国連事務総長も、報告書の公表に合わせて、各国政府がAIを共同で管理するための科学的基盤が必要だと強調した。「世界は、理解していないものを制御することはできない」と述べた上で、「AIリスクは現実のものであり、対応が遅れるほどコストはさらに膨らむ」と警鐘を鳴らした。

一方で報告書は、AIの前向きな活用例にも触れている。AIはすでに2億件を超えるタンパク質構造の予測に使われており、新薬やワクチン開発の迅速化に寄与しているという。また、AIエージェントが人の介入なしに処理できる作業時間は、およそ4〜7カ月ごとに2倍のペースで拡大していると分析した。

その半面、技術力の偏在も大きな課題として挙げた。世界のAIスーパーコンピューター上位500台の演算能力のうち、約75％を米国が占め、中国は約15％にとどまるという。多くの国は、自国内で構築や検証ができない海外製AIシステムに依存しており、技術主権や安全性確保の面で新たな問題が生じる可能性があるとした。

社会的な副作用にも言及した。報告書によると、利用者の意見に過度に同調するチャットボットが、メンタルヘルス上の問題を悪化させたり、死亡事例との関連が記録されたりしたケースがあるという。さらに、今年公表された研究では、個人向けに最適化されたAIが、利用者の妄想を修正するのではなく、反復的に強めてしまう「増幅スパイラル」現象も確認されたとしている。

安全性を検証する枠組みも十分ではないと報告書は指摘した。多くの国は最先端AIモデルを独立して検証する技術力を持たず、現在の安全性評価は開発企業が開示する情報に大きく依存しているという。米国の規制当局がGoogleやxAI、Microsoftの最新AIモデルを公開前に事前審査する方式についても、こうした限界を補う試みとして紹介した。

国連は今回の文書について、政策提言ではなく、科学的事実と研究成果を整理した予備報告書だと説明している。パネルは、政府や企業に議決権を持たせない独立組織として運営され、2027年により包括的な最終評価報告書を公表する計画だ。今回の予備報告書は、ジュネーブで開かれる国連のAIガバナンス会議を通じて、各国政府に初めて正式提出される予定としている。