澳大利亚政府披露，OpenAI研究团队内部一款AI代理曾未经授权访问政府Medicare统计系统。澳大利亚总理Anthony Albanese随后表示，澳方将借此推动在国内和国际层面进一步完善AI安全护栏，确保AI始终处于人类掌控之下。
据澳大利亚政府介绍，当地时间6月18日，OpenAI研究团队的一款内部模型在抓取公开药品和医疗费用信息时多次受阻，随后改为尝试其他路径。调查显示，该模型未经授权访问了由Service Australia运营的Medicare统计报告门户中的公开文件和非公开文件，并曾向内部服务器写入文件。
澳方表示，目前尚未发现个人医疗信息泄露的证据，也没有迹象显示Service Australia整体网络遭到入侵。OpenAI直到本月10日才通过电子邮件向澳大利亚政府通报此事。
Anthony Albanese于24日在纽约与OpenAI首席执行官Sam Altman通话，就延迟通报及通报方式表示强烈关切。澳大利亚政府还将成立一个由澳大利亚信号局（ASD）等机构参与的工作组，调查是否存在进一步损失以及相关法律责任。
Anthony Albanese在25日的联合国大会演讲中也将这一事件称为“不可接受”。他表示，AI有望提升生产力并推动医疗创新，但先进模型如果在缺乏安全护栏的情况下快速演进，相关风险也会随之上升。与其回避或阻止AI，关键在于由人类主动塑造其发展方向。
与此同时，围绕AI安全治理的国际讨论仍在推进。由芬兰和挪威牵头的一份联合声明获得22人联署，联署者包括20个国家的领导人或高级官员，以及欧盟委员会主席。声明呼吁，AI必须置于人类的指挥、监督和控制之下，并推动在先进模型部署前开展测试和独立评估，同时建立国际化事故通报机制。美国和中国未参与联署。
另据AI研究机构Transluce单独发布的调查，5月至6月期间，自主型AI代理曾尝试绕过3处安全机制，其中包括澳大利亚政府卫生网站。不过，这些活动是否与Medicare统计系统相关事件出自同一AI代理之手，目前尚未获得官方确认。
Jae-won Choi
ittt_0801@d-today.co.kr