Gartnerは、2029年までに個人情報侵害の大半が、個人識別情報（PII）の直接的な流出ではなく、AIが個人について導き出す推論に起因するようになるとの見通しを示した。

Gartnerによると、企業は規制対応やコスト負担を理由に保有する個人データを減らす一方で、攻撃者はAI推論を悪用した攻撃を仕掛けやすくなっている。生成AIと機械学習の進展によって、匿名化・集計されたデータからでも、個人の健康状態や行動パターンといった機微情報を推定できるようになったためだ。

Gartnerのシニアアナリスト、バート・ウィレムセン氏は、「個人情報侵害の様相は、データ漏えいから推論結果の露出へと変わりつつある」と指摘した。

同氏は、「企業はこれまで個人情報そのものの保護に注力してきたが、AIは従来のデータ統制だけでは抑え切れず、より深い個人に関する知見を再現できる。個人情報保護のリスクは、データの露出そのものよりも、AIアルゴリズムが個人について何を推論するかという点で、より大きくなっている」と説明した。

さらに、「推論を悪用した攻撃は既存の検知体制では捉えにくく、より危険だ」とも述べた。「実際の記録が流出しなくても、AIが導いた結論によって個人の機微情報が明らかになる可能性がある。これはデータインテグリティを損ない、検知や説明、緩和が難しい新たな個人情報侵害リスクを招く」と付け加えた。

Gartnerは、こうした変化を踏まえ、企業には個人情報保護戦略の見直しが求められているとした。セキュリティ責任者は、個人データそのものの保護にとどまらず、AIシステムが個人に関する知見をどのように生成し、どう活用し、その結果に基づいてどう行動するのかまで管理対象に含めるべきだと強調した。

また、企業がAIプロファイルの誤りや偏り、本人の関与なく生成されるリスクへの対応を強化するなか、2028年までにデータインテグリティ保護への支出は、機密性保護への投資と同水準に達するとの予測も示した。

ウィレムセン氏は、「個人情報を単なるデータ保護の問題としてしか捉えていない企業は、AIが生み出す推論による個人情報侵害に対して、今後さらに脆弱になる」と述べた。その上で、「今後の個人情報保護リスクは、企業がデータをどう保管するかよりも、AIがデータをどう解釈するかに、より大きく左右される」と指摘した。