[디지털투데이 황치규 기자] 사이버 보안 분야에서 인공지능(AI)은 이미 전략적 요충지가 됐다.

공격을 하는 쪽이나 막는 쪽 모두 AI를 적극 활용하려 들면서 AI를 중심으로 한 창과 방패의 대결이 어떤 구도로 진행될지가 초미의 관심사로 부상했다. 이런 가운데 AI를 활용한 방어가 주는 혜택보다 AI를 활용한 공격이 몰고올 위협이 보다 두드러질 수 있다는 관측이 나오고 있어 주목된다.

사이버 공격이 양적으로 급증하고 진화에 진화를 거듭하면서 AI를 활용한 보안 제품에 대한 수요가 커지고 있다.  2022년 7월 아쿠멘 리서치&컨설팅(Acumen Research and Consulting)이 내놓은 보고서를 보면 AI 기반 보안 제품 시장 규모는 2021년 140억달러 규모에서 2030년 1338억달러 수준으로 확대될 전망이다.

CNBC 최근 보도에 따르면 AI가 보안을 다 알아서 하는 것은 아니지만, 안티바이러스, 악성코드 차단, 데이터 손실방지(DLP), 사기 방지, 접근 관리, 침임 탐지 및 방지 시스템, 위협 및 컴플라이언스 관리 같은 보안 제품들에 AI는 제한적으로 활용되고 있다.

기업들이 이메일 필터 및 악성코드 식별 도구와 같은 제품 맥락에서 AI를 활용하고 있다고 CNBC는 덧붙였다.

해커들의 움직임 데이터를 분석하는 툴에도 AI가 점점 많이 활용되는 추세다. CNBC에 따르면 법무법인인 필스버리 로(Pillsbury Law)의 브라이언 핀치 사이버 보안, 데이터 보호 및 프라이버시 부문 공동 리드는 "해커들 행동 데이터 분석을 통해 타이밍, 공격 방법, 시스템 안에서 어떻게 움직이는지 등에 대한 공격 패턴이 있는지 파악할 수 있다"면서 "이들 인텔리전스 데이터를 수집하는 것은 방어하는 입장에서 매우 중요할 수 있다"고 말했다.

시장 조사 업체 가트너는 AI 사용 패턴들을 찾아내기 위해 50개 가량 보안 업체들을 인터뷰한 결과를 최근 공개했는데 AI의 가장 큰 목적은 오탐을 줄이는 것이었다. 마크 드라이버 가트너 리서치 부사장은 "AI는 오탐을 합리적인 수준으로 줄일 수 있다. 결과적으로 분석가들은  사이버 공격을 해결하기 위해 보다 빠르고 영리하게 작업할 수 있다"고 말했다.

최근에는 탐지와 대응을 넘어 사이버 공격를 아예 방지하는 것을 목표로 AI를 활용하려는 관련 업계 행보도 있다. 다크트레이스, 딥 인스팅트 같은 기업들이 머신러닝 AI로 사이버 공격이 일어나기 전에 막는 보안 솔루션 시장에 출사표를 던졌다.

공격자들도 AI를 주목하고 있음을 고려하면 AI가 현실적으로 급증하는 보안 위협을 줄이는 확률높은 승부수가 될지는 낙관하기 어렵다. 방어를 위해 뛰는 이들 위를 날아다니는 공격자들이 있을 수 있다.

브라이언 핀치 필스버리 로 공동 리드에 따르면 공격자들은 다양한 방식으로 AI를 활용하는 것이 가능하다. 예를 들면 공격자들은 컴퓨터 시스템에서 소프트웨어와 보안 프로그램들 취약점을 드러내는 패턴을 확인하고 이를 공격에 악용할 수 있다. 훔친 개인 정보와 소셜 미디어 포스트 같은 공개된 데이터를 AI와 결합하면 많은 피싱 이메일을 만드는 것도 가능해진다.

핀치 공동 리드는 "일부 보안 전문가들은 AI가 만든 피싱 이메일은 수작업으로 만든 것에 대해 받아본 사람이 클릭할 가능성이 상대적으로 높다고 말한다"면서 "AI는 자동화된 방어 도구들 탐지를 피하기 위해 끊임없이 바뀌는 악성코드를 디자인하는 데도 투입될 수 있다"고 말했다.

항상 바뀌는 악성코드 시그니처는 공격자들이 방화벽이나 페리미터(perimeter, 경계) 기반 탐지 시스템 등 정적인 탐지를 피하는데 도움을 줄 수 있다는 얘기다. 

AI가 들어간 악성코드는 시스템 내에 있으면서 데이터를 수집하고 사용자들 행동을 관찰하고 때가 되면 또 다른 단계 공격을 감행하거나 수집한 정보를 상대적으로 탐지 레이더에 걸릴 가능성을 줄이면서 외부에 보낼 수도 있다고 CNBC는 전했다.

네트워크 트래픽과 애플리케이션들에 대한 사용자 접근을 수시로 체크하고 안전한지 확인하는 이른바 제로 트러스트 보안이 요즘 주목 받는 것도 이와 무관치 않다. 하지만 사이버 보안의 세계에서 공격이 방어보다 빠르게 진화하는 경우는 수두룩하다.  AI도 마찬가지일 수 있다.

핀치 공동 리드는 "AI는 유용하기 보다 해로울 거라 말할 것이다. 그러나 정말 뛰어난 AI는 구축하기 어렵고 제대로 돌아가려면 훈련된 많은 이들이 필요하다"고 말했다. 평범한 공격자들보다는 인원과 자금을 모두 보유한 집단들이 방어망을 돌파할 수 있는 AI 공격를 주도할 것이라는 의미로 풀이된다.

유명 암호학자이자 보안 기술 분야 대표적인 그루 중 한명으로 통하는 브루스 6월 열린 'RSA컨퍼런스 2022'에서 AI해커의 등장을 예고했다. 그는 "아직 그렇게 좋지는 않지만 점점 좋아지고 있으며 결국 AI가 인간을 능가할 것"이라며 AI가 시스템을 해킹하도록 지시받는 경우, 또 AI가 자연스럽고 우연히 시스템을 해킹하는 경우 모두 가능하다고 전했다.