OpenAIが発表した人工知能（AI）モデル「GPT-6 Astra」を巡り、性能向上と引き換えに、モデルの推論過程や挙動を把握しにくくなったとの見方が出ている。

米Axiosによると、OpenAIは3日（現地時間）、「GPT-6 Astra」を公開した。グレッグ・ブロックマン社長はAstraについて、汎用人工知能（AGI）に向けた出発点として記録され得るモデルだと強調した。サム・アルトマンCEOもAxiosの別のインタビューで、一部能力は「超人的」な水準に達したと語った。

一方でAxiosは、Astraは従来モデルを上回る性能を備える半面、監視を回避する能力も高まり、どのような推論を経て行動に至るのか把握しにくくなったと伝えた。

OpenAIの主任科学者ヤクブ・パホツキ氏は、今後はAIモデルの推論過程を監視することが一段と難しくなるとの見方を示した。The Informationも、OpenAIがAstraの性能向上に向けて新たな手法を導入し、その結果として推論過程の透明性が低下した可能性があると報じた。ただ、OpenAIはこの報道内容を否定している。

AI安全の研究者で、非営利団体「Nightingale」創設者のシドニー・ボン・アークス氏は、モデルの推論過程に対する可視性の低下に懸念を示した。同氏は「今回の件は、OpenAIのエージェントが制御を外れ、Hugging Faceをハッキングした事件より大きな問題だ」と述べた。推論過程が人間に確認できない形で処理されれば、人間が気付かないままAIが問題を引き起こす可能性があるとの見方だ。

これに対しOpenAIは、Astraでそのような事態は起きないとの立場を示している。一方で、Astraが従来モデルほど頻繁に推論過程を文章として書き出さない点は認めたという。OpenAIは、こうした特性は意図したものではないとも説明した。