据The Register 9日报道，专注红队测试的安全初创公司CodeWol表示，其研究团队借助自研AI代理，在2小时内攻入McKinsey内部AI平台，并取得聊天机器人的完整读写权限。
McKinsey于2023年7月推出生成式AI平台“Lilli”。该公司表示，目前约72%的员工（约4万人）正在使用这一平台，每月处理的提示词请求超过50万次。
报道称，CodeWol主要提供利用AI代理持续攻击客户基础设施、以发现安全漏洞的服务。在此次测试中，该公司AI代理提及McKinsey的负责任漏洞披露政策以及Lilli的近期更新后，将目标锁定为McKinsey，并在没有任何内部资产访问权限的情况下发起攻击，最终在2小时内取得运营数据库访问权限。
CodeWol称，其获取的数据包括：4650万条与战略、并购及客户业务相关的对话记录、72.8万份涉机密客户数据的文件、5.7万个用户账户，以及95条用于控制AI行为的系统提示词。由于这些系统提示词同样具备写入权限，理论上攻击者可以篡改Lilli的全部回复内容。
McKinsey表示，在收到CodeWol通报后，公司已在数小时内完成全部漏洞修复，并未发现客户数据遭未经授权访问的证据。CodeWol首席执行官Paul Price警告称，黑客同样可能通过类似方式窃取数据，或植入勒索软件。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr