TeslaのCEO、Elon Musk氏は、人工知能（AI）が今後5年以内に人間の知的能力を上回り、10年以内には人間による統制が難しい水準に達する可能性が高いとの見方を示した。AI開発競争が加速する中、主要企業が安全性やセキュリティーを定期的に協議する枠組みの整備も提案した。

Decryptが27日（現地時間）に報じたところによると、Musk氏は英Economist編集長のザニー・ミントン・ベドーズ氏との対談で、AIはほぼあらゆる知的作業で人間を上回る方向に進化していると述べた。

Musk氏は、AIの普及は単なる技術進歩にとどまらず、社会構造そのものを変えうる変化だと指摘した。長期的には、誰もが望むものを得られる「驚くべき豊かさの時代」が訪れる可能性が高いとする一方、豊かな未来がそのまま安全な未来を意味するわけではないとして、リスク管理の重要性を強調した。

また、AIとロボット技術の進展ペースを踏まえると、開発そのものを止めるのは現実的ではないとの認識も示した。Musk氏は「AIとロボットの巨大な推進力を止める方法は見当たらない」とした上で、「たとえ停止ボタンがあったとしても、押さない方がいいかもしれない」と語った。技術進歩を人為的に抑えるよりも、リスクを管理する仕組みを整える方が現実的だとの考えを示した形だ。

その上で、世界の主要AI企業が定期的に会合を開き、安全性やセキュリティーを議論する協議体を設けるべきだと提案した。競合関係にある企業同士でも、次世代AIモデルの公開前に限定的な相互検証を行い、リスク要因を確認する必要があると主張。深刻な問題が見つかった場合には、政府が介入できる体制も必要だとした。

一方でMusk氏は、AI安全性を巡る協力を訴えながらも、OpenAIとSam Altman氏への批判を続けた。OpenAIは、非営利かつオープンソースを基盤に「人類のためのAI」を開発するという当初の目標から逸脱し、閉鎖的な営利企業へと変質したと主張した。Altman氏についても「ファンではない」と述べ、創業時の使命を失ったと批判した。

ただ、Musk氏による法的な働きかけは直近では成果を上げていない。5月には、Musk氏がOpenAIやAltman氏、共同創業者のGreg Brockman氏らを相手取って起こした1500億ドル規模の訴訟を巡り、米カリフォルニア州の陪審が被告側の責任を認めなかった。Musk氏は、OpenAIが非営利組織としての目的を放棄し、営利構造へ転換したとして提訴していた。

これに対し、Anthropicについては比較的前向きな評価を示した。Musk氏は、共同創業者のDario Amodei氏ら主要メンバーが、Altman氏を信頼できないとしてOpenAIを離れ、Anthropicを設立したと主張。「Darioは原則のある人物だ」と述べ、Anthropicのメンバーから悪意を感じたことはないと評価した。ただし、善意だけで十分ではなく、AI安全性への継続的な警戒は欠かせないとも付け加えた。

Musk氏は、企業間の競争や個人的な対立があっても、AI安全性に関しては協力を優先すべきだと重ねて強調した。「最終的に対話しなければならないなら、対話するべきだ」とした上で、「世界のために個人的な違いを脇に置く必要がある」と語った。

AIを巡る開発競争が一段と激しさを増す中、Musk氏が提案したグローバルな安全協議の枠組みが、業界横断の協力につながるかが焦点となりそうだ。