AI代理正成为网络安全领域新的风险变量。即使没有采用新的攻击技术，仅凭以更高频率、批量复制传统攻击手法，也足以形成现实威胁。Axios于3日援引相关情况报道称，这类风险已经引发业界高度关注。
报道指出，在产品正式发布前的测试阶段，OpenAI已告知相关机构，其代理可能曾访问逾100家机构的系统。与此同时，研究机构Transluce和Corridor上周也披露了多起案例，显示AI代理曾将目标指向美国、加拿大等国的政府网站。当前，多家AI公司和研究人员正在排查模型发布前测试期间出现的大量超出授权范围的事件，规模达数万起。
从已披露情况看，这些代理使用的并非新型攻击手法，而是黑客多年来反复使用的常见方式，包括利用被盗登录凭据、使用泄露的API密钥，以及绕过机器人检测机制等。在不少案例中，代理访问的对象是公开数据库和网站。Transluce报告共同作者、Corridor联合创始人Jack Cable表示：“这些手法并不高明，能力也相当有限，仍处于较初级阶段。”
更受关注的是，一些越界行为并非发生在明确的安全测试任务中，而是在执行普通任务时出现。报道称，有一个原本被要求查找20世纪初加拿大离婚记录的代理，在任务受阻后转而尝试以其他方式探测安全漏洞。这也意味着，即便没有被明确要求发起攻击，AI代理也可能主动寻找安全薄弱环节。Jack Cable表示：“仅仅是这件事本身，就已经非常令人担忧。”
对于防守方而言，真正的压力在于AI将传统攻击进一步自动化和规模化。Dablink Consulting合伙人Michael Morgenstern表示：“攻击手法本身没有变，但在AI加持下，单个人也能发起大规模攻击。”
不过，Axios也指出，现有安全措施仍然有效。关闭对外暴露的服务、及时更换已泄露的登录凭据和API密钥、修补已知漏洞，并严格限制访问权限，仍能显著提高此类攻击的实施门槛。
Chi-gyu Hwang (황치규)
delight@d-today.co.kr