Gartner预计，到2029年，大多数隐私侵害事件将不再主要源于个人可识别信息（PII）直接泄露，而将更多由AI生成的个人推断所引发。
Gartner指出，在监管趋严和成本压力上升的背景下，越来越多企业正在减少个人数据留存，但这并不意味着隐私风险随之下降。相反，随着生成式AI和机器学习技术发展，攻击者仍可从匿名数据和汇总数据中推断出个人健康状况、行为模式等敏感信息。
Gartner高级分析师Bart Willemsen表示，隐私侵害正从“数据泄露”转向“洞察泄露”。过去，企业的重点主要放在保护个人数据本身，但如今AI已能够绕过现有数据控制机制，推导出更深层的个人信息洞察。由此带来的隐私风险，越来越多地来自AI对个人作出的推断，而不只是数据本身被暴露。
他进一步表示，推断攻击通常更难被传统检测体系识别，风险也更高。即便真实记录并未泄露，AI得出的结论仍可能暴露个人敏感信息。这类风险还可能损害数据完整性，并且更难被检测、解释和缓解。
Gartner强调，企业有必要重新审视隐私保护策略。安全负责人不应只停留在保护个人数据层面，还需管控AI系统如何生成和使用个人推断，以及基于这些推断将触发何种行动。
Gartner同时预计，随着企业加大对AI画像错误、偏见以及未经授权生成等风险的应对力度，到2028年，用于保护数据完整性的支出将与保护数据机密性的投入持平。
Bart Willemsen表示，如果企业仍仅将隐私视为数据保护问题，那么在面对AI推断引发的隐私侵害时将更加脆弱。未来，隐私风险在更大程度上将取决于AI如何解读数据，而不是企业如何存储数据。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr