[디지털투데이 황치규 기자] 챗GPT로 대표되는 생성형 AI를 업무에 적용하려는 기업들이 늘면서 생성형 AI 활용에 따른 보안 문제를 해결하는 솔루션을 둘러싼 시장이 커지고 있다. 이에 관련 업계의 행보도 빨라지고 있다. 

특히 생성형 AI 활용시 기업 기밀이나 민감한 내부 데이터가 유출되는 것을 막을 수 있도록 지원하는 솔루션 개발 움직임이 활발하다. 지난해까지만 해도 생성형 AI 보안에 특화된 스타트업들이 분위기를 주도했다면 최근에는 기존 테크 기업들 행보도 본격화되는 양상이다.

ㆍ'생성AI 잘 쓰게 해준다'...新 테크 스타트업 몰려 온다

마이크로소프트는 지난해 11월 개최한 이그나이트 컨퍼런스에서 데이터 보안 및 거버넌스 플랫폼인 퍼뷰(Purview)를 통해 코파일럿 같은 생성AI시스템에서 사용되는 정보를 보호하는데 초점을 맞춘 이터 보안 기능들을 선보였다.

퍼뷰가 제공하는 새로운 기능들은 기업들이 마이크로소프트365 코파일럿이나 타사 거대 언어 모델(LLM)을 활용하는 과정에서 일어날 수 있는 데이터 유출 가능성을 모니터링할 수 있는 가시성을 제공한다는게 회사측 설명이다. 마이크로소프트는 퍼뷰 생성형 AI 데이터 보안 역량과 관련해 자사 기존 보안 플랫폼과 연결돼 엔드 투 엔드(End-to-End) 관점에서 접근한다는 점을 강조하고 있다.

콘텐츠 전송 네트워크(CDN) 및 보안 업체 클라우드플레이어도 최근 AI용 방화벽을 선보였다.

회사 측에 따르면 AI용 방화벽은 사용자가 제출한 프롬프트(prompts)를 스캔하고 평가해 모델을 악용하고 데이터를 추출하려는 시도를 식별할 수 있도록 지원한다.

대형 테크 기업들이 가세하는 가운데 생성형 AI를 주특기로 투자를 유치하는 스타트업들도 계속 나오고 있다. 생성형 AI 활용시 데이터를 유출하거나 프라이버시 규정을 위반하는 것을 막을 수 있도록 지원하는 에임 시큐리티도 최근 1000만달러 투자를 유치했다.

회사 측에 따르면 에임 시큐리티 플랫폼은 기존 보안 솔루션들과 통합되며 브라우저 확장 기능도 제공한다. 이를 통해 기업 사용자들이 어떤  생성형 AI 툴들을 쓰고 있고, 어떤 데이터를 제공하는지 모니터링한다.

국내 생성형 AI 보안 전문기업 이로운앤컴퍼니는 7일 마크앤컴퍼니와 재단법인 윤민창의투자재단으로부터 시드 투자 유치를 완료했다. 이로운앤컴퍼니는 공공기관이나 민간 기업들이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보를 외부로 유출되지 않도록 필터링하는 보안 솔루션을 제공한다. 이로운앤컴퍼니는 상반기 생성형 AI 보안 솔루션인 '세이프X (SAIFE X)' MVP(최소기능제품) 출시하고 다양한 분야 기업·기관들을 대상으로 POC(기술검증)에 착수할 예정이다.

ㆍ[디투피플]"생성형 AI 보안 전문 스타트업들에 기회 커질 것"

스타트업 투자 정보 서비스 피치북 데이터를 인용한 악시오스 보도에 따르면 지난해 4분기까지 AI 보안 스타트업들은 1억3070만달러 규모 투자를 유치하며 2022년 전체 투자액인 1억2222만달러를 넘어섰다.

지난해 9월 5000만달러 투자를 유치한 히든레이어( HiddenLayer)는 엔드포인트 보안과 유사한 솔루션을 제공해 AI 모델들이 출력하는 내용들을 검토하고 악의적인 공격자들이 AI 알고리즘을 변조했는지 여부를 체크할 수 있도록 지원한다.

칼립소AI(CalypsoAI)의 경우 기업들이 민감한 데이터를 감사하고 이들 데이터가 외부 AI 모델에 유출되는 것을 막아준다. 미국 국방부를 포함한 정부 기관들도 이 회사 솔루션을 도입했다. 칼립소는 지난해 2300만달러 투자를 유치했다. 스위스에 본사를 둔 보안 스타트업인  라케라AI(Lakera AI)는 AI 모델 입출력을 위한 방화벽 같은 툴을 제공한다.

관련 업계에 따르면 다수 기업들은 생성형 AI를 어디에 어떻게 쓰면 좋을지 테스트하는 단계에 있다. 그런 만큼 생성형 AI 보안도 이제 막 태동기에 진입하는 단계다. 시장 분석 업체 가트너는 AI 보안 및 리스크 관리 회사들 시장 규모가 2025년 1억5000만달러 규모에 이를 것으로 보고 있다.