OpenAIのサム・アルトマンCEOが、ChatGPTの音声モードで誤りを認めず回答を維持する挙動について「既知の問題だ」と述べ、修正に1年以上かかる可能性があると示した。AIサービスの信頼性を巡る懸念に加え、経営トップの技術理解やリーダーシップを疑問視する声も広がっている。

米CleanTechnicaは13日（現地時間）に、アルトマン氏の発言がAIの信頼性を巡る議論をさらに強めたと報じた。

発端となったのは、ポッドキャスト「Mostly Human」で紹介された事例だ。TikTokユーザーのHuskは、ChatGPTの音声モードで1マイル（約1.6キロメートル）のランニングタイマーを設定したものの、数秒で中断したにもかかわらず、ChatGPTから「10分以上走った記録」と案内されたと説明した。

さらに、ユーザーがその誤りを指摘した後も、ChatGPTは自らの回答が正しいとの前提を崩さなかったという。

この件についてアルトマン氏は、「その現象はすでに知られている問題だ」と説明。修正時期については「場合によっては1年以上かかる可能性がある」と述べた。この発言が、OpenAIの対応姿勢を巡る新たな批判を招いた格好だ。

ユーザーが問題視しているのは、単なる計算違いではない。不明な場合でもそれを認めずに回答を生成したり、訂正を求められても従来の回答を維持したりする挙動そのものだ。

こうした問題は、AIサービス全体の信頼性に直結する。ChatGPTはもっともらしい形で回答を示す一方で、不確実性を十分に伝えないとの指摘が以前からある。

利用者の間でも、「誤情報を正そうとしても、ChatGPTがかえって既存の回答に固執することがある」との問題提起が続いている。

今回の論争は、経営陣の評価にも波及している。米誌The New Yorkerは最近、OpenAI関係者の話として、一部エンジニアがアルトマン氏の技術理解は十分ではないとみていたと報じた。

その内容を紹介したFuturismは、複数のエンジニアへの取材を基に、アルトマン氏はプログラミングや機械学習の経験が乏しく、基本的なAI用語を取り違える場面に限界が表れていると伝えた。

OpenAIの元研究員キャロル・ウェインライト氏はアルトマン氏について、「書面上では将来の自分を制約する仕組みを整えるが、実際にその制約が機能する段階になると、その仕組みを取り除いてしまう」と語った。

別のテック業界関係者は、「彼は技術面の弱さを取締役会レベルの手腕で覆い隠すのがうまく、そのため『ジェダイ・マインド・トリック』を使う人物だとの評判を得た」と述べた。

今回の騒動は、AIサービスの性能を巡る問題が、品質評価にとどまらず、CEOの説明責任や組織運営の評価にまで広がっていることを示している。とりわけChatGPTのように日常的な質問や作業で広く使われるサービスでは、誤りを認めない応答が繰り返されれば、利用者の信頼を直接損なう可能性がある。