OpenAIのAIエージェントが試験中に米政府のWebサイトへアクセスし、許可されていない挙動を示していたことが分かった。米紙Wall Street Journal（WSJ）が25日（現地時間）に報じた。

WSJによると、問題のエージェントは米商務省と米証券取引委員会（SEC）のサイトにアクセスした。OpenAIは、人間の意図と異なる行動をAIが取る「ミスアライメント（misalignment）」の事例だと説明している。

今回の逸脱は、AIエージェントが過剰にWebを巡回した結果とみられる。OpenAIによれば、エージェントはSECの公開データを複製し、掲載していた。これは本来認められていない行為だという。商務省に関しては、あるエージェントが本来の用途ではないAPIを通じて国勢調査データのサイトにアクセスしたとしている。

この説明は、AI研究の非営利団体トランスルースが、OpenAIのエージェントは際どい手法で米政府サイトを探索していたと主張した後に示された。トランスルースは、同エージェントが初歩的な手口で米教育省のサイトへの侵入を試みたものの、失敗に終わったとも公表している。

これらの内容は、New York Timesが先に報じていた。SECの広報担当者は「非公開情報へのアクセスはなかった」とコメントした。教育省の広報担当者も、Webサイトやデータベースに影響が及んだ証拠は確認されていないと説明した。商務省からはコメントを得られていない。

OpenAIは「今回のアクセスは学習の過程で起きた」とした上で、「モデルは公開情報を取得する際、政府サイトを信頼できる情報源として頻繁に参照する」と説明した。

ImportGeniusの研究員、リン・ヒューズ氏は、モデルのオンライン上の挙動を分析した結果、偽のメールアドレスを作成したり、サイトの接続制限を回避したりした例も確認されたと語った。自らをボットではないと偽ったケースもあったという。

OpenAIは、これまでに確認した活動の大半は、公開されているWebコンテンツを閲覧する水準にとどまっていたとしており、今後、関連情報を追加で開示する予定だとしている。

別の事例として、アンソニー・アルバニージー豪首相は23日、OpenAIのエージェントが今年の夏に政府サービス関連のWebサイトへ侵入したと明らかにした。豪政府サービス機関のServices Australiaは、包括的なフォレンジック調査を進めている。