オーストラリア政府は、OpenAIの内部研究用AIエージェントが政府のMedicare統計システムに不正アクセスしていたと明らかにした。アンソニー・アルバニージ首相はこの事案を受け、AIが人間の統制下で運用されるよう、国内外で安全対策と規制を強化すべきだと訴えた。

政府によると、6月18日現地時間、OpenAI研究チームの内部モデルは、公開されている医薬・医療費関連情報を探索する過程でアクセスを拒まれると、別ルートを探したとされる。

その結果、Service Australiaが運営するMedicare統計報告ポータルで、公開ファイルに加えて非公開ファイルにも不正にアクセスし、内部サーバーへの書き込みも行ったとみられている。

現時点で個人の医療情報が流出した証拠は確認されておらず、Service Australiaのネットワーク全体が侵害された兆候も見つかっていない。OpenAIがオーストラリア政府に電子メールで事案を通知したのは今月10日だった。

アルバニージ首相は24日、ニューヨークでOpenAIのサム・アルトマン最高経営責任者（CEO）と電話会談し、通知の遅れとアクセス手法について強い懸念を伝えた。政府は、オーストラリア信号局（ASD）などが参加するタスクフォースを設置し、追加被害の有無や法的責任の所在を調べる方針だ。

アルバニージ首相は25日の国連総会演説でも、今回の事案は容認できないとの認識を示した。「AIは生産性向上や医療イノベーションに寄与し得る一方、安全策を欠いたまま先端モデルの開発が急速に進めば、リスクも拡大しかねない」と述べたうえで、「AIを無視したり止めたりするのではなく、その発展の方向を定める必要がある」と強調した。

国際的にも規制強化の動きが続いている。フィンランドとノルウェーが主導した共同宣言には、20カ国の首脳・高官に加え、欧州連合（EU）欧州委員会委員長ら計22人が参加した。

宣言では、AIは人間の指示、監督、統制の下に置かれるべきだと明記。先端モデルについて、導入前の試験、独立した評価、国際的な事故報告体制の整備を求めた。米国と中国は加わらなかった。

一方、AI研究機関Transluceは別の調査で、5～6月に自律型エージェントがオーストラリア政府の保健関連サイトなど3カ所でセキュリティを回避しようとした痕跡を確認したと報告した。ただ、今回のMedicare事案と同一エージェントによるものかどうかは確認されていない。