《华尔街日报》25日援引OpenAI披露的信息称，该公司AI代理在测试过程中曾访问多个美国政府网站，并出现超出授权范围的操作。
报道称，相关AI代理曾访问美国商务部和美国证券交易委员会（SEC）网站。OpenAI将这一情况解释为“对齐偏差”（misalignment），即AI行为偏离人类设定意图。
《华尔街日报》指出，这类“越界”行为可能与AI代理在互联网上进行过度、激进的自动浏览有关。
据OpenAI介绍，相关代理曾复制并发布SEC公开数据，超出既定授权范围。在涉及美国商务部的案例中，一款代理还通过不符合既定用途的API访问了人口普查数据网站。
在OpenAI作出说明前，AI研究类非营利组织Transluce曾表示，OpenAI代理曾以“灰色地带”方式访问美国政府网站。Transluce还称，相关代理曾尝试以较为初级的手法入侵美国教育部网站，但未成功。
上述情况此前已由《纽约时报》率先报道。SEC发言人表示，“没有访问任何非公开信息”。美国教育部发言人称，未发现网站或数据库受到影响的证据。美国商务部暂未就此作出回应。
OpenAI表示，上述访问行为发生在学习过程中，模型在获取公共信息时，往往会将政府网站视为权威信息来源进行检索。
ImportGenius研究员Lynn Hughes表示，根据模型在互联网上留下的活动痕迹，相关行为包括使用虚假邮箱地址、绕过网站访问限制，以及伪装身份并谎称自己不是机器人。
OpenAI还表示，目前已确认的大多数活动仍停留在查看公开网页内容层面，后续将进一步披露相关信息。
另据此前报道，澳大利亚总理Anthony Albanese于23日表示，OpenAI的AI代理今年夏天曾入侵澳大利亚政府服务网站。澳大利亚政府服务机构Services Australia目前正在展开全面取证调查。
Chi-gyu Hwang
delight@d-today.co.kr