[디지털투데이 황치규 기자]국내 대표 보안 업체 중 하나인 지란지교시큐리티를 이끌었던 윤두식 대표가 스타트업 이로운앤컴퍼니 설립하고 새로운 도전에 나섰다.
도전의 무대는 생성형 AI 보안. 기업과 공공기관들이 거대 언어 모델(LLM) 기반 생성형 AI를 쓰는데 따른 보안 문제들을 해결해주는 솔루션 사업이 골자다. 글로벌 시장에서 생성형 AI 보안을 주특기로 하는 스타트업들은 이미 20개를 넘었지만 국내의 경우 이로운앤컴퍼니가 첫 테이프를 끊은 곳들 중 하나가 아닐까 싶다.
전문 보안 업체들이 등장한다는 것은 생성형 AI와 관련된 리스크가 적지 않다는 것을 의미한다.
윤 대표에 따르면 LLM에 프롬프트(지시어)를 입력하는 전처리는 물론이고 답변을 받는 후처리 과정에서도 기업들은 크고 작은 리스크에 직면할 수 있다. 윤 대표는 "전처리 과정에선 개인 정보나 기입 정보가 유출될 수 있고 후처리 단계에서도 악성코드나 저품질 코드를 받을 수 있다. 이걸 확인하고 막을 수 있는 기술이 점점 중요해지고 있다. 기업들이 여러 LLM을 쓰는 것이 일반회될 것임을 감안하면 전문 보안 제품을 필요로 할 것이다"고 말했다.
그에 따르면 전처리 단계에서 기업들은 개인 정보 외에 프롬프트 인젝션( 공격자가 시스템 출력을 조작하기 위해 AI 시스템에 악의적인 입력을 주입하는 시도) 공격이나 회사가 보유한 중요 소스코드가 올라가는 것 등을 탐지할 필요가 있다. 특정 사용자가 LLM을 너무 많이 써서 다른 사람이 못쓰는 상황도 막아야 한다. 회사 라이선스나 API 키가 유출되는 것도 체크해야 한다.
후처리 단계에선 LLM에서 받은 결과에서 편향성 및 코드 취약성 등을 탐지할 필요가 있다. 받은 정보가 무해한지, 금지된 문자열이 있는지, 악성리크가 포함돼 있는지 등을 확인하는 것이 중요하다.
지금은 이 정도지만 앞으로 생성형 AI와 관련된 보안 위협들은 계속 늘어날 것으로 윤 대표는 보고 있다. 이에 생성형 AI 보안 문제를 해결하는데 최적화된 솔루션을 하드웨어 어플라이언스 및 서비스형 소프트웨어(SaaS) 방식으로 제공할 예정이다. 어플라이언스 타입을 선보이는 것은 국내 공공기관 상황을 고려한 포석이다.
이로운앤컴퍼니는 오픈AI나 앤트로픽 같은 퍼블릭 클라우드 기반 LLM들 외에 기업들이 내부에 구축해 쓰는 온프레미스 LLM들에도 보안 솔루션이 필요하다고 보고 있다. 그런 만큼 주요 퍼블릭과 온프레미스 LLM들을 모두 지원하는 제품을 선보일 예정이다.
제품 기획은 이미 끝냈다. 그는 "상반기최소 기능 제품(Minimum Viable Product, MVP)을 개발하고 공공기관 등에서 레퍼런스를 확보한 뒤 내년 공식 제품을 출시할 것이다"면서 "공공 시장을 공략하려면 인증을 획득하는 것은 물론 조달 등록도 해야 한다. 본격적인 사업은 내년부터 진행한다"고 말했다.
이로운앤컴퍼니는 우선 국내 생성형 보안 시장 공략에 집중한다. 국내 공공기관과 기업들 중심으로 거점을 확보하고 해외는 일본을 염두에 두고 있다.
윤 대표는 전세계적으로도 생성형 AI 보안은 초기 단계여서 기존 회사들과 격차가 크지 않아 해볼만한 승부가 될 것이란 입장이다. 그는 "전세계적으로 20개 이상 생성형 AI 보안 스타트업들이 있지만 대부분 설립 3년이 안된 회사들이다. 기술적으로 추격할 수 있는 시간은 충분하다"고 강조했다.
LLM 보안은 보안 업체들 뿐만 아니라 LLM 개발사들에게도 중요한 요소다. 그런 만큼 LLM 개발사들이 보안도 직접 챙길 수 있다. 이와 관련 윤 대표는 "기업들은 챗GPT 뿐만 아니라 구글 바드, 제미니, 그외 온프레미스 LLM들을 원하는 환경과 업무에 맞게 쓰고 있다"면서 "여러 LLM들을 지원하는 보안 업체들에게 계속 기회가 있을 것이다"고 말했다.
기존 유력 보안 업체들이 생성형AI로 영토를 확장하는 것도 이로운앤컴퍼니에게는 위협일 수 있다. 그는 "기존 보안 업체들도 들어올 것이다. 하지만 시장이 커질 때까지는 전담 조직을 두기는 부담이 있을 수 있다. 지금은 스타트업이 하기에 가장 좋은 타이밍이다"고 말했다.
이로운앤컴퍼니는 보안으로 시작하지만 향후 LLM 서비스로 전반으로 사업을 확장할 계획이다. 윤 대표는 "궁극적으로는 LLM 전문 매니지드 서비스(MSP)로 확대할 것"이라고 말했다.