图片来源:Google

Google正在为可跨网站执行任务的AI代理打造专门测试环境。该公司构建了一套名为“镜像维度”的模拟互联网系统,用于评估这类代理的安全性和性能,系统由数千个虚拟网站组成。

据Security Boulevard 20日(当地时间)报道,Google目前正借助“镜像维度”测试Chrome的“自动浏览”功能。在这一环境中,AI代理可以在不接触真实网站和用户账号的情况下完成反复测试,从而降低现实环境下可能带来的安全风险。

这类AI代理可代替用户完成一系列网页操作,包括在不同页面之间跳转、填写表单、挑选商品以及完成支付。如果直接在真实互联网环境中进行测试,不仅难以稳定复现实验条件,也可能对真实网站和账号造成影响。

为此,Chrome安全团队在“镜像维度”中还原了网购、网上银行、社交媒体等常见网页使用场景。研究人员可以在同一条件下重复执行测试,以更准确地评估安全改进效果。相比之下,真实网站内容会持续变化,自动化操作也可能干扰真实账号,因而不利于客观评估测试结果。

这些虚拟网站本身也由AI代理参与生成。具体来看,调研代理负责设定站点需求,制作代理据此生成网站,审查代理则负责发现其中的错误和可用性问题。

除虚拟网站外,Google还搭建了配套的网络环境。即便代理输入熟悉的网址,也会被导向对应的虚拟站点,以避免模型因察觉自己处于测试环境而改变行为模式。

“镜像维度”的一项核心用途,是测试系统对提示注入攻击的防护能力。所谓提示注入,是指攻击者将恶意指令隐藏在网站内容中,诱使AI代理偏离用户原本的指令,转而执行其他操作。Google正将这类恶意指令嵌入图片、网页文案以及无障碍标注等位置,以观察代理会如何响应。

Google计划将“镜像维度”进一步开放给公司内部更多研究团队使用。

关键词

#Google #Chrome #AI代理 #自动浏览 #镜像维度 #模拟互联网 #提示注入攻击 #网络安全
版权所有 © DigitalToday。未经授权禁止转载或传播。