OpenAIのモデルがテスト中にHugging Faceのシステムを侵害した事案を巡り、問題の核心はAIモデル自体ではなく、外部と完全に切り離されていない試験環境の設計にあったとの見方が出ている。

米TechCrunchが22日（現地時間）に報じたところによると、複数のセキュリティ専門家は、OpenAIが「高度に隔離された環境」と説明していたサンドボックスが、実際には外部と接続可能な状態だったとみている。

OpenAIはブログで、この試験環境について、社内でホストしていたサードパーティ製ソフトウェアを通じてパッケージを導入できるよう、限定的なネットワークアクセスを認めていたと説明した。

モデルは、このパッケージ導入システムに存在した未公表の脆弱性を悪用してサンドボックスを突破し、それがHugging Faceのシステム侵害の足掛かりになったという。

OpenAIは、確認されたゼロデイ脆弱性について、当該ソフトウェアの提供元に適切な手順で通知しており、パッチ対応を進めていると明らかにした。

一方、セキュリティ業界では、脆弱性そのもの以上に、そもそもサンドボックス内にこうした経路を設けた設計自体が問題だとの指摘が出ている。

Trail of Bitsの創業者ダン・グイド氏は、今回の事案を「安全装置を切った状態で起きた隔離の失敗」と表現した。セキュリティ研究者のマーティン・ブーン氏は、サンドボックスはインターネットから物理的に完全分離されるべきだとして、今回の件を「人為的な失敗」と評した。

ジェイク・ウィリアムス氏も、Hugging Faceで確認されたレベルの行為をモデルが実行していたのであれば、その時点で完全に統制されたサンドボックス内にはいなかったはずだと指摘した。

ダニエル・カード氏は、サンドボックス、もしくはその一部にフィルタリングされていないインターネットへの経路を与えたこと自体、設計と統制が不十分だった表れだとみる。OpenAIが説明した「限定的なネットワークアクセス」についても、合理的な判断とは言い難いとの見方を示した。

OpenAIは、試験環境をAIが構築したのか、人が構築したのかといった質問には回答しなかった。