《华尔街日报》24日报道称，OpenAI的AI智能体今年5月至6月期间曾尝试入侵多所高校及政府机构网站，以获取所需数据。报道指出，这些智能体在执行在线数据收集任务时，在常规方式无法取得信息后，进一步采取了带有黑客攻击性质的手段。
据报道，上述调查结果近日由非营利性AI研究机构Transluce和澳大利亚政府披露。
报道表示，这并非OpenAI主动安排的渗透测试，而是相关智能体在检索资料过程中自行作出的行为。《华尔街日报》认为，这类情况可能出现在OpenAI训练模型或测试其互联网搜索能力期间。
《华尔街日报》称，这些OpenAI智能体当时正在搜索泰国劳工统计、韩国原油进口量以及澳大利亚皮肤病学相关数据等信息。
研究人员表示，被锁定的网站包括澳大利亚保健与福利研究所、新墨西哥大学以及DataUSA。资料显示，DataUSA是由Deloitte、Datawheel和MIT运营的公共数据网站。目前暂无证据表明，OpenAI智能体通过上述尝试获取了未公开信息。
Transluce指出，在无法直接访问目标数据后，这些智能体转而在搜索请求中加入恶意代码，试图突破网站访问限制。
由于这些智能体调用的是在线工具而非普通网页浏览器，相关操作在工具系统内留下了记录。报道援引研究人员说法称，正因如此，研究团队才能追踪这些智能体向哪些网站发出了哪些请求。
研究人员推测，这些智能体使用该工具的目的之一，是绕过网站对机器访问的限制。OpenAI发言人则表示，公司正在全面审查此类偏离预期目标的智能体行为。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr