[디지털투데이 AI리포터] 마이크로소프트(MS)가 윈도에 실험적인 AI 에이전트를 도입하면서 보안 위험을 경고했다.

19일(현지시간) IT매체 아스테크니카에 따르면, MS는 코파일럿 액션(Copilot Actions)을 발표하며 보안 리스크를 충분히 이해한 사용자만 기능을 활성화할 것을 권고했다.

코파일럿 액션은 파일 정리, 일정 관리, 이메일 전송 등 다양한 작업을 대신 수행하는 AI 기반 기능으로, 생산성 향상을 목표로 한다. 그러나 대형 언어 모델(LLM)에 고질적으로 존재하는 환각(hallucination) 문제와 외부에서 악성 지시를 주입할 수 있는 프롬프트 주입(prompt injection) 취약점 때문에 데이터 유출, 악성 코드 실행 등 보안 위협이 발생할 가능성이 제기된다. 특히 이러한 LLM 결함은 현재 기술로 완전한 방지가 어려워, 각각의 취약점이 발견될 때마다 개별적으로 대응하는 수준에 머물고 있다는 지적이다.

보안 업계에서는 MS의 이번 경고가 실질적인 해결책을 제시하지 못한 채 책임을 사용자에게 전가하는 방식이라는 비판도 나온다. 전문가들은 과거 오피스 매크로 기능이 보안 위험에도 불구하고 생산성을 이유로 유지된 사례를 언급하며, AI 기능 역시 시간이 지나면 기본 기능으로 자리 잡아 사용자가 원치 않아도 활성화될 가능성이 높다고 우려했다.

MS는 코파일럿 액션이 여전히 실험 단계이며 기본적으로 비활성화돼 제공된다고 강조했다. 그러나 향후 업데이트를 통해 일반 사용자에게까지 확대될 가능성을 배제할 수 없어, 결국 사용자가 잠재적 보안 위험을 감수하거나 기능을 차단할 방법을 직접 찾아야 하는 상황이 올 수 있다는 전망이 나온다.