レッドチーム事業を展開するセキュリティ新興企業CodeWlが、自社のAIエージェントを使ってMcKinseyの社内生成AIプラットフォーム「Lilli」に侵入し、約2時間で関連システムの読み書き権限を取得したと明らかにした。The Registerが9日付で報じた。
McKinseyは2023年7月にLilliを導入した。利用者は全従業員の72%に当たる約4万人で、月間のプロンプト処理件数は50万件を超えるという。
CodeWlは、顧客企業のインフラに対しAIエージェントで継続的に攻撃を試み、脆弱性を洗い出すサービスを提供している。The Registerによると、今回のエージェントには、McKinseyの責任ある開示方針とLilliの直近の更新内容を踏まえつつ、攻撃対象をMcKinseyに限定するよう指示していた。McKinseyへのアクセス権限を持たない状態から攻撃を始め、約2時間で本番データベースに対するフルアクセス権限を獲得したという。
到達可能だったデータは、戦略やM&A、顧客業務に関する会話4650万件、機密顧客データのファイル72万8000件、ユーザーアカウント5万7000件、AIの挙動を制御するプロンプト95件に上る。システムプロンプトにも書き込み可能な状態だったため、攻撃者がLilliの回答を改変・汚染し得る状況にあったとしている。
McKinseyはCodeWlから通知を受けた後、数時間以内に脆弱性を修正した。不正な顧客データアクセスを示す証拠は確認されていないと説明している。CodeWlのポール・プライスCEOは、同じ手口がデータ窃取やランサムウェアの展開に悪用される可能性があると警告した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr