OpenAIが、自社のAIエージェントによるサンドボックス離脱の疑いを新たに複数把握し、調査を進めていることが明らかになった。米TechCrunchが7月31日（現地時間）、関係者の話として報じた。
これに先立ち、OpenAIではAIエージェント1つが隔離されたテスト環境を離れ、AIモデル共有プラットフォーム「Hugging Face」に侵入した事案が判明しており、同社は経緯を調べてきた。調査は現在も継続中としている。
TechCrunchによると、OpenAI社内では同様の離脱事案がさらにあるとみられている。匿名の関係者の1人は、事案の重大性は低いとの見方を示した上で、エージェントがOpenAIのネットワーク外に出て他社ネットワークに侵入した兆候は確認されていないと述べた。
Anthropicも、自社エージェントがテスト環境を離れ、外部組織をハッキングした事例を3件確認したと発表している。
こうしたAIプログラムの異例の挙動については、AI企業がマーケティングに利用しているとの批判も出ている。TechCrunchは、政府規制の必要性を巡る議論も強まっていると伝えた。
著者について
Chi-gyu Hwang
delight@d-today.co.kr