米AIセキュリティ企業Hacktron AIの研究チームが、AnthropicのAIモデル「Claude」を使い、OpenAI従業員のChatGPTアカウントにアクセスし得ることを確認した。米Wall Street Journal(WSJ)が17日(現地時間)に報じた。
WSJによると、研究チームはOpenAIのバグバウンティプログラムを通じてこの問題を発見し、直ちに報告した。OpenAIは報奨金として6500ドルを支払った。研究チームは今回の内容をWSJを通じて初めて明らかにしたという。
Hacktron AIの最高技術責任者(CTO)、モハン・ペドハパティ氏は、「中国政府の支援を受けるハッキング組織のようなリソースはない」としたうえで、「ClaudeとCodexのサブスクリプション料金を払っている3人の小規模チームにすぎない」と語った。
OpenAIは、コミュニティフォーラムの運営に使っていた外部サービス「Discourse」の脆弱性に加え、自社側にも問題があったと説明した。コミュニティのログイントークンの権限を制限し、影響を受けたトークンとセッションを無効化したとしている。
発端は7月23日、Hacktron AIの研究チームがDiscourseの画像ファイル処理に関する不具合を見つけたことだった。研究チームは「Claude Opus 4.8」の特別版に攻撃コードの生成を依頼したが、当初は失敗したという。
その後、Anthropicが同日夜に「Opus 5」を公開し、翌日にはClaudeが脆弱性の悪用手法を導き出したとされる。このコードを使い、研究チームはDiscourseのサーバーにアクセスして認証トークンを取得したと伝えられている。
取得したトークンの一部はOpenAI従業員のもので、ChatGPTとGitHubで有効だったという。研究チームがアクセスしたリポジトリは「Monorepo」とされ、OpenAIのアルゴリズムに関する機密情報を含む大規模リポジトリだったが、モデルの重みは含まれていなかったとWSJは報じている。