サム・アルトマン氏は、人間がAIの「ペット」のような立場に置かれる未来像を語ったElon Musk氏の過去発言を批判した。写真=Y CombinatorのYouTube

OpenAIのサム・アルトマンCEOは、AIが人間を従属させる未来は望まないとして、Elon Musk氏の過去の発言を公然と批判した。人間が将来の主導権を持ち続けるべきだとの立場を改めて示した。

Business Insiderによると、アルトマン氏は18日(現地時間)、ニューヨーク・タイムズ主催の「DealBook Summit」に登壇し、AIが人間を上回る力を持ち、人類を家庭で飼われるペットのような存在にする可能性があるとするElon Musk氏の見方に言及した。

アルトマン氏は「ラブラドールになりたくない。私の子どもたちにもラブラドールになってほしくない」と発言。「これまでもそうだったように、未来の主導権は人間が持つべきだ」と述べた。

Elon Musk氏は10年以上前から、AIが再帰的自己改善(RSI)の段階に達すれば、人間の制御を離れる可能性があると警告してきた。RSIは、AIが人間の介入なしに自らを改良し、知能をさらに高めていく過程を指す。

Elon Musk氏は2015年、天体物理学者ニール・ドグラース・タイソン氏との対話で、AIが自らを再設計し、数百万台規模のコンピュータ上で24時間連続して高速に自己改善を進めるようになることへの懸念を示していた。

さらにElon Musk氏は、今年7月に英The Economistのインタビューでも、人間がラブラドールのような立場になり得るとの過去の発言に触れ、「ラブラドールはかなり幸せな動物だ」と笑いながら語った。2016年にも、人間が飼い猫のような立場になる考えには否定的な見解を示している。

当時のElon Musk氏は、そうした状況を避けるには、脳とコンピュータを接続する必要があるとも主張していた。

一方、アルトマン氏は最近、人間がAIに制御権を委ねる流れを業界として受け入れるべきではないと繰り返し訴えている。DealBook Summitでも、OpenAIのグレッグ・ブロックマン社長とともに「人々が未来を引き続きコントロールすべきだと強く信じている」と発言。「AIに段階的に権限を委ねるべきだという議論が増えているが、それは恐ろしい考えだ」と述べた。

AIの制御を巡る懸念は、業界の主要論点として浮上している。Anthropicのダリオ・アモデイCEOは9月、最先端AIの自己改善研究のペースを落とし、人間の統制力を維持するための方策を整えるべきだと提案した。アルトマン氏とElon Musk氏もこの考えに同意している。

狙いは、研究の進行を抑える間に、AIを安全に制御する方法を探ることにある。

両氏の対立は、OpenAIの事業方針の転換を巡って以前から続いている。Elon Musk氏はOpenAIの共同創業者で初期投資家でもあったが、方針転換に反発し、アルトマン氏とOpenAIを相手取って訴訟を起こした。

裁判所は今年5月、Elon Musk氏の請求を棄却した。陪審は、提訴の時期が遅すぎたと判断した。

キーワード

#OpenAI #AI #Elon Musk氏 #サム・アルトマンCEO #AIガバナンス
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.