[디지털투데이 AI리포터] 마이크로소프트(MS)가 인공지능(AI) 취약점 '위스퍼 리크'(Whisper Leak)를 발견하며, 암호화된 챗봇 대화도 주제가 노출될 수 있다고 경고했다. 

10일(현지시간) IT매체 씨엑스투데이에 따르면, 네트워크 트래픽을 감시하는 공격자가 암호화된 데이터 패킷의 크기와 타이밍을 분석하면 대화 내용을 직접 읽지 않고도 주제를 추측할 수 있다. MS의 테스트 결과, 민감한 주제를 98% 정확도로 식별할 수 있었다.

이는 AI 기반 콜센터에 특히 치명적일 수 있다. 와이파이탤런츠(WifiTalents)의 보고서에 따르면, 2025년까지 콜센터의 54%가 챗봇 사용을 확대할 예정이며, 이미 52%는 AI 기반 대화 시스템을 도입했다. 하지만 빠른 도입 속도에 비해 개인정보 보호에 대한 검토는 미흡한 상황이다.

고객이 AI 챗봇과 환불, 의료 클레임, 금융 조사를 논의할 경우, 텍스트는 암호화되지만 패킷 패턴을 통해 주제가 노출될 가능성이 있다. 공용 와이파이, 멀티 클라우드 서비스, 메타데이터 수집 등 다양한 취약점이 존재하며, AI 보안이 더욱 중요해지고 있는 상황이다.

MS는 오픈AI 등 주요 업체와 협력해 대응책을 마련 중이다. 응답 패턴을 무작위로 변경하거나, 스트리밍 방식이 아닌 비동기식 대화 모드를 활용하는 방안이 검토되고 있다. 기업들은 AI 벤더 점검, 네트워크 보안 강화, 데이터 분류 재평가 등의 조치를 취해야 한다.