随着AI代理加速普及，安全厂商在识别和处置AI滥用风险方面面临的难度正在上升。
据Semafor近日报道，过去在电话和视频通话场景中，安全企业一旦识别出对方并非真人，通常就会自动拦截转账、信息共享等请求，以降低诈骗风险。换言之，风控判断过去更多停留在“对方是不是机器”这一层面。
但随着个人AI代理出现，这一逻辑正在发生变化。这类代理已经开始代用户完成缴纳学费、收集健康信息、处理敏感文件等事务。
对于服务企业、医院和银行等机构的安全厂商而言，仅判断交互对象是否为AI，已无法满足风控需求。当前更关键的问题，是识别相关代理究竟是在执行正常任务，还是已被用于恶意行为。
报道称，一些原本用于正常任务的代理，可能会在用户放松控制后被用于诈骗。面对这种变化，安全企业不得不在实时环境中持续调整风控能力，以应对不断演变的威胁。
深度伪造检测公司Pindrop首席执行官Vijay Balasubramaniyan表示，围绕“是否向代理开放访问权限”的二元判断时代已经结束。随着代理开始代表个人或机构发起交互，甚至完全自主行动，风险识别已不能再停留在非黑即白的简单划分上。
Pindrop表示，公司正在开发可区分正常用户行为、AI代理和恶意代理的相关工具，但未披露更多细节。
记者信息
Chi-gyu Hwang (황치규)
delight@d-today.co.kr