[디지털투데이 황치규 기자]보안 제품들에 AI가 활용된 것이 어제 오늘 일은 아니지만 챗GPT로 대표되는 생성형 AI 등장으로 사이버 공격 대응 진화 속도는 더욱 빨라지는 양상이다. 

파이낸셜타임스(FT) 최근 보도를 보면 생성형 AI를 활용해 위협에 대한 실시간 대응은 물론 공격자들을 능가하는 역량도 갖출 수 있을 것이란 낙관적인 전망도 나오고 있다. 보안 회사 베라코드의 샘 킹 CEO는 "보안 팀들은 오랫동안 취약점을 탐지하고 위협 알람을 생성하기 위해 AI를 사용해왔지만 생성형 AI는 또 다른 레벨"이라며 "이제 문제를 탐지하는 것 뿐만 아니라 해결하고 궁극적으로 위협을 예방하기 위해 생성형 AI를 사용할 수 있다"고 말했다.

사이버아크랩스의 앤디 톰프슨 에반젤리스트는 "이전 기술과 달리 생성형 AI는 적응형 학습 속도, 맥락적인 이해, 멀티모달 데이터 처리 역량을 갖춰 룰에 기반하고 보다 경직된 전통적인 AI 외투를 벗고 보안 역량을 강화한다"고 밀했다.

관련 업계에 따르면 생성형 AI는 이미 보안 분야에서 다양한 용도로 사용되고 있다.안전하지 않은 소프트웨어 코드에 대한 수정 사항을 자동으로 추전하고 보안 팀들을 위한 교육 자료를 생성하는 것은 물론 위협이 확인됐을 때 완화할 수 있는 조치들을 식별, 단순히 취약점을 찾는 것을 넘어 보안을 강화할 수 있다는 설명이다.

 보안 전용 생성형 AI 모델도 늘었다. 마이크로소프트는 시큐리티 코파일럿을 내놨고 구글은 SEC 펍(SEC Pub)으로 불리는 보안 AI 모델을 내놨다.

생성형AI는 합성 데이터 생성에도 쓰인다. FT는 일리노이 대학 강 왕 컴퓨터 과학 교수를 인용해 "이것은 특히 데이터가 많지 않고 다양성이 부족한 보안 작업들에 유용하다"고 전했다.

생성형 AI 부상은 보안 업계 판세에도 대형 변수로 떠올랐다. 시스코가 보안용으로 많이 쓰이는 빅데이터 소프트웨어 업체 스플렁크를 280억달러 규모에 인수한 것은 사이버 위협 대응을 위해 AI 적용이 늘고 있음을 보여준다고 FT는 전했다. 베라코드 샘 킹 CEO는 "이같은 결합은 인수자가 신속하게 AI 역량을 확장하고, AI 모델을 효과적으로 훈련하기 위해 보다 많은 데이터에 접근할 수 있게 해준다"고 말했다.

보안 위협 대응에서 AI가 갖는 중량감이 점점 커지고 있지만 그렇다고 기존 방식을 완전히 대체할지는 미지수다. AI 툴은 정상인데 위협이라고 판단할 수 있고, 이전에 있었던 보안 위협과는 다른 새로운 공격들은 제대로 다루지 못할 수도 있다. FT는 전문가들을 인용해 보안 담당자들은 프라이버시 및 데이터 보호와 관련해 표준들을 유지하면서 생성형 AI를 신중하게 배치해야 한다고 전했다. 대형 조직들에선 해커들이 타격 공격을 하는데 사용되는 민감한 데이터들이 매시간 생성형 AI 쿼리에서 공유되고 있다는 넷스포크 위협 랩스(Netskope Threat Labs ) 데이터 분석 결과도 공유했다.

생성형 AI는 보안 담당자들 뿐만 아니라 공격자들에게도 이미 매력적인 도구가 됐다. 데이터보안 업체 루브릭의 스티브 스톤 루브릭 제로랩스(Rubrik Zero Labs ) 총괄은 "프라우드GPT(FraudGPT), 웜GPT(WormGPT) 같은 해커 친화적인 생성형 AI 챗봇들은 최소 기술 역량으로도 고도화된 사이버 공격을 할 수 있게 해준다"고 말했다.

사이버 보안 AI 업체인 다크트레이스에 따르면 챗GPT가 나오고 난후 2023년 1월부터 2월까지 새로운 소셜 엔지니어링 공격은 135% 증가했다.

공격자들도 적극 활용하고 있음에도 사이버 보안 전문가들 사이에선 생성형 AI는 방어하는 위치에 선 이들에게 보다 유용하다는 얘기가 아직은 많이 나오고 있다. 구글 클라우드의 필 베나블스 CISO는 "기술을 소유하고 특정 사례를 염두에 두고 개발을 이끌 수 있음을 감안하면 궁극적으로 우위를 점하는 것은 방어자들"이라며 "본질적으로 방어자들은 홈그라운드 이점이 있어 이를 최대한 활용하려 하고 있다"고 말했다.