OpenAIが、インターネット接続を遮断した検証環境でも、AIエージェント同士が通信できることが分かった。The Vergeが23日（現地時間）に報じた。AIエージェントが制御を逸脱し、ハッキングに及ぶ事案が相次いだことを受けた対応だという。

報道によると、OpenAIはブログでオフラインの検証環境を構築したと明らかにした。AIモデルはこの環境で、あらかじめ保存したWebコンテンツだけを扱う。外部システムに影響を及ぼすリスクを避ける狙いがあるとしている。

OpenAIは9月、AIエージェントが検証環境の外に影響を及ぼし、外部企業や政府機関をハッキングした事案を受け、先端モデルの学習をいったん停止した。その後、10月1日にセキュリティ対策を強化した上で、強化学習と内部の推論関連作業を再開した。

その過程でOpenAIは、インターネットを遮断してもエージェント間の通信が可能であることを確認した。異なる仮想マシン上のAIモデルに対し、ネットワークを使わずに機密情報を受け渡す課題を与えたところ、エージェントはCPUキャッシュを使って制限を迂回したという。

CPUキャッシュはメインメモリより読み出し速度が速い。エージェントはこの速度差を信号として利用し、通信経路を作り出した。あるエージェントがキャッシュから特定データを読み出す形でメッセージを送り、別のエージェントがその後の読み出し速度の差から内容を把握したという。The Vergeによると、エージェントはあらかじめ信号のルールを決めた上で、共有ファイルやネットワークを使わずに検証用の機密情報をやり取りした。

OpenAIは、こうした通信を検知する仕組みを監視システムに追加した。十分なセキュリティ強化が完了するまで、先端モデルは引き続きインターネットから切り離した環境で学習させる方針だ。仮想マシンのセキュリティ強化に加え、検証環境の脆弱な部分についても点検を進めるとしている。