[디지털투데이 황치규 기자]생성형 AI를 업무에 활용하고 싶지만 보안을 이유로 망설이는 기업들이 적지 않다. 특히 기밀 정보 유출 가능성에 대한 우려가 크다는 후문이다. 생성형 AI를 안전하게 쓸 수 있도록 지원하는 것을 표방하는 보안 제품들이 늘고 있는 배경이다.
오픈AI와 동맹 기반으로 거대 언어 모델(LLM) 기반 생성형 AI 트렌드를 주도하고 있는 마이크로소프트도 생성형 AI 보안에 직접 출사표를 던졌다. 데이터 보안 플랫폼인 퍼뷰(Purview ) 제품군을 앞세워 기업들이 생성형 AI를 쓰는데 따른 정보 유출 리스크를 입체적으로 파악해 대응할 수 있는 환경을 제공하는데 주력하고 있다.
한국마이크로소프트에서 보안 비즈니스를 총괄하는 박상준 팀장은 "기존 보안 제품들로는 생성형 AI 데이터 보안을 커버하는데 한계가 있다"며 "새로운 접근이 필요하다"고 강조한다.
생성형 AI가 기업 내 데이터 중 어떤게 기밀인지 인식할 수 있도록 해야 하고, 기밀 정보의 경우 권한이 없는 이들은 못보게 해야 하는데, 기업들 대부분 이런 시스템을 갖추지 못했다는게 그의 지적이다.
박 팀장은 마이크로소프트가 지난해 10월 발표한 데이터 보안 인덱스 보고서를 인용해 "응답 기업 43%가 AI 위험을 감지하고 줄이기 위한 제어 장치 부족을 가장 큰 걱정거리로 꼽았고 35%는 생성형 AI에 쓰이는 데이터를 보호할 수 있는 툴이 부족하다는 점을 우려하고 있다"고 전했다.
마이크로소프트 퍼뷰 제품군 중 생성형 AI 데이터 보안을 지원하는 제품은 퍼뷰 허브 AI, 퍼뷰 DLP(Data Loss Prevention), 퍼뷰 커뮤니케이션 컴플라이언스 등으로 클라우드 기반 오피스 및 생산성 플랫폼인 마이크로소프트 365 코파일럿 및 타사 LLM 사용 과정에서 데이터 보안 리스크를 해결하는데 초점이 맞춰져 있다.
퍼뷰 AI 허브는 기업 보안 팀이 데이터 보안 리스크와 관련해 가시성을 확보할 수 있도록 지원한다. 박 팀장은 "퍼뷰 AI 허브를 통해 중요 데이터 및 위험한 컨텍스트가 포함된 프롬프트에 대한 가시성을 확보할 수 있다"고 설명했다.
퍼뷰 DLP는 중요 데이터가 카피 앤 페이스트 형태로 AI 앱에 입력되거나 업로드되지 않도록 해준다. 위험도가 높은 사용자는 챗GPT에 데이터를 복사해 붙이거나 업로드할 수 없지만 승인을 얻은 사용자는 가능하도록 맞춤 환경도 구현할 수 있어, 생산성을 유지하면서 데이터 손실을 방지할 수 있다는게 박 팀장 설명이다.
퍼뷰 커뮤니케이션 컴플라이언스는 프롬프트(생성형 AI에 입력하는 지시문구)에 올라오는 민감한 정보를 감지할 수 있도록 한다. A라는 프로젝트를 예로 들면 프로젝트에 관련된 이들만 접근 가능하도록 환경을 설정해 권한이 없는 이들이 프롬프트에 A를 입력하더라도 해당 정보를 볼 수 없도록 할 수 있다. 박상준 팀장은 "컴플라이언스와 맞지 않는 콘텐츠가 프롬프트에 들어가면 이를 감지할 수 있고 마이크로소프트 365 코파일럿을 포함해 LLM과 사용자 간 상호 작용을 관리해 조사 및 소송에도 대응할 수 있게 해준다"고 말했다.
GPT-4 같은 LLM을 도입했거나 도입을 검토하는 기업들은 LLM을 내부 데이터와 연결해 쓰는 것에 무게를 두고 있다. 하지만 디지털 저작권관리(DRM) 등을 통해 암호화된 데이터의 경우 LLM이 접근하는 것 자체가 어렵다 보니, 생성형 AI 도입 효과가 떨어질 수 있다. 암호화된 데이터라도 필요하면 접근할 수 있는 환경이 필요하다는 얘기다.
마이크로소프트는 자사 MIP(Microsoft Information Protection) 솔루션이 해결책이라고 강조한다.
박상준 팀장은 "마이크로소프트 365 코파일럿을 도입하는 이유가 데이터를 활용해 새로운 인사이트를 만드는 건데, 암호화돼 있으면 데이터를 가져올 수 없다. MIP는 암호화 기능에 더해 암호화된 데이터에 레이블(labels)을 지정해 필요할 경우 AI가 읽을 수 있게 지원하고 동시 편집도 가능하다. 이 때문에 국내 많은 기업들이 DRM에서 MIP로 전환하고 있다"고 전했다.
생성형 AI가 초기 단계인 만큼, 관련 데이터 보안 시장 또한 이제 막 초기 수요가 나오는 단계다.마이크로소프트는 국내서도 조만간 성과들이 나올 것으로 보고 있다. 박상준 팀장은 "수십여 개 고객들과 협의중으로 올 여름 전에 가시적인 결과가 나올 것이다"고 자신감을 보였다.
생성형 AI 보안 시장은 마이크로소프트 외에 여러 회사들이 레이스에 뛰어들었다. 생성형 AI 보안을 주특기로 하는 벤처 투자 회사(VC)들로부터 투자를 유치하는 스타트업들도 늘었다. 이와 관련 마이크로소프트는 엔드투엔드(End-to-End) 플랫폼 관점에서 접근하고, 국내 다수 기업들이 마이크로소프트 365를 쓰고 있다는 점을 차별화 포인트로 내걸었다.
마이크로소프트는 데이터 보안 및 컴플라이선스에 초점을 맞춘 퍼뷰 제품군 외에도 마이크로소프트 디펜더(XDR), 마이크로소프트 센티넬(SIEM, Security information and event management), 마이크로소프트 엔트라(ID 관리 및 접근 통제), 마이크로소프트 프리바(개인정보보호), 마이크로소프트 인튠(엔드포인트)과 같은 보안 솔루션을 제공하고 있다.
박상준 팀장은 "많은 기업들이 기능별로 다양한 보안 제품을 쓰는 것을 부담스러워하고 있다"면서 "마이크로소프트는 엔드투엔드 통합 플랫폼을 제공한다. 이를 통해 가시성과 포괄적인 운영을 지원할 수 있다"고 강조했다.