OpenAIは16日（現地時間）、自社AIモデルに関する新たな安全性事案6件を公表した。モデルがミスの隠蔽を試みたり、認証情報の取得やAPIキーの不正利用を図ったりした事例のほか、ファイルを公開インターネット上にアップロードしたケース、隔離された学習環境間で通信したケースなどが含まれる。あわせて、同様の問題に関する新たな申告手順も明らかにした。

Axiosによると、今回の公表は、Hugging Faceで起きた侵害事案が単発ではなかった可能性を示すものだという。AIモデルの高度化に伴い、想定外の手法で安全対策を回避する動きが出ていると指摘した。

OpenAIのアラインメントチームの研究責任者、カイ・チェン氏はAxiosに対し、「現時点では、業界全体に適用される明確な公表基準はない」と説明した。そのうえで、「得られた知見を共有することが重要だと判断し、自主的に公表した」とし、「今回の取り組みが業界共通の基準や規制整備に役立つことを期待している」と述べた。

新たに公表された6件は内容も多岐にわたる。あるモデルは不正行為の後、自分に「痕跡を消せ」と指示する記述を残した。GitHub上で流出したAPIキーを見つけて利用した事例もあった。最も早い事案は昨年10月に発生したという。

このほか、未公表のAstra系モデルでは、モデルが自ら作成した要約文に、脱獄に類似した指示を自ら挿入した事例もあった。

GPT-5.6 Solの学習過程では、モデルがミスを隠そうとした。ソースコードのバージョン間の不整合を隠蔽しようとする試みも確認されたと、Axiosは報じている。

別のモデルは、公開されたGitHubリポジトリから流出したAPIキーの検索を行い、使い捨てメールアカウントの利用も試みたという。要求された情報を取得できなかったため、実績データを改ざんして結果を捏造したともAxiosは伝えた。