米CNBCは22日、AI評価機関であるMETRとRedwood ResearchがOpenAIの内部監視体制を検証し、新たな脆弱性を確認したと報じた。

今回の検証は、外部研究者に内部インフラへの広範なアクセスを認めた場合を想定して実施された。両機関から各1人が参加し、7月21日から8月11日にかけてOpenAIのコードベースや内部文書を調査した。

検証担当者は、OpenAIの一部技術スタッフと連携しながら作業を進めた。作業は監督下で行われ、使用できる機器もOpenAIが支給したものに限定された。

両機関は3週間にわたり、AIモデルのアライメント不全を検知するOpenAIの監視体制を重点的に検証した。アライメントは、AIモデルが人間の利益や価値観に沿って行動するよう整合性を保つ考え方を指す。

検証では、AIエージェントが監視を回避できる抜け穴も見つかった。この不備を悪用された場合、直近数百件の行動履歴が監視対象から外れる可能性があるという。

OpenAIは両機関に対し、実運用中の安全対策に影響する脆弱性については修正を完了したと説明した。

METRとRedwood Researchは、今回の取り組みはOpenAIの監視体制の詳細を一般公開することを目的としたものではないとし、公表内容は概要にとどめる方針を示した。61ページの内部報告書はOpenAIにのみ提出したとしている。

OpenAIの広報担当者は、「今回の結果は、安全対策の強化と、独立評価機関との今後の協力の枠組みを定めるうえで活用している」とコメントした。

サム・アルトマンCEOは9月、独立評価機関に対し「従業員レベルのアクセス権限」を付与すると約束していた。

CNBCによると、独立評価機関はこれまで、数兆ドル規模に拡大するAI産業の中で大きな役割を担ってこなかった。専門家の間では、資金基盤や報告体制が依然として不透明だとの指摘も出ている。