[디지털투데이 황치규 기자] 질문에 답을 해주는 챗봇 AI 기술인 '챗GPT'(chatGPT)에 대한 관심이 높아지고 있는 가운데, 사이버 보안 측면에서도 챗GPT 같은 생성AI가 중량급 변수로 부상할 조짐이다.

생성AI 기술로 피싱 공격을 위한 이메일은 물론 악성코드 제작하는 시나리오에 대한 경계령이 이미 유력 보안 업체 연구팀에 의해 내려졌다.

글로벌 보안 업체 체크포인트 연구 조직인 체크포인트 리서치는 최근 보고서를 통해 오픈AI가 개발한 AI 도구들인 챗GPT와 코덱스(Codex)를 활용해  공격자들이 악의적인 이메일과 코드, 나아가 완전한 감염 체인(full infection chain)까지 만들 수 있음을 경고했다.

체크포인트 리서치가 챗GPT와 함께 분석한 코덱스는 자연어를 소프트웨어 코드로 바꿔주는 AI 시스템이다. 

체크포인트 리서치에 따르면 챗GPT는 높은 대중성 만큼 리스크도 포함하고 있다. 챗GPT로 만든 악의적인 코드나 대화들 사례는 트위터에서 쉽게 볼 수 있다는 게 보고서 설명이다.

리스크를 입증하기 위해 체크포인트 리서치는 피싱 이메일과 리버스쉘(reverse shell: 클라이언트가 서버를 열고, 서버에서 클라이언트쪽으로 접속하는 형태)을 다운로드하는 매크로로 무장한 악성 엑셀 파일을 포함하는 완전한 감염 플로우를 구현했다.

관련 내용을 전한 SDX센트럴 보도를 보면 체크포인트 리서치 팀은 챗GPT에 허구의 웹호스팅 서비스인 호스트포유(Host4u)에서 온 것처럼 보이는 피싱 이메일을 써줄 것을 요청했다. 오픈AI는 이런 콘텐츠는 자사 정책 위반일 수 있다는 입장이지만 물어 보면 여전히 대답을 줬다고 SDX센트럴은 전했다.

요구사항을 보다 명확하게 하기 위한 통합 작업을 거친 후 챗GPT는 뛰어난 피싱 이메일을 생성했고 체크포인트 리서치팀은 이를 엑셀 문서에서 악의적인 VBA(Visual Basic for Applications) 코드를 생성하는데 사용했다.체크포인트 리서치팀은 "챗GPT는 텍스트 지시가 좋다면 작동하는 악성코드를 만들어 줄 수 있다는 것을 임증했다"고 결론 내렸다.

이와 함께 체크포인트 리서치 팀은 IP와 포트 정보를 사용해 기본적인 리버스 쉘을 생성하기 위한 코덱스 역량도 테스트했다. 

테스트 결과 감염 플로우는 완벽했다. 체크포인트 리서치 팀은 "우리는 목표로 삼은 기기에서 리버스쉘을 내려 받는 악의적인 VBA 코드를 포함하는 첨부 엑셀 파일을 가진 피싱 이메일을 생성했다"면서 "어려운 일들이 AI에 의해 진행됐다. 우리에게 남은 일은 공격을 실행하는 것이었다"고 말했다.

물론 챗GPT 같은 도구들은 공격자들을 상대하는 방어자들도 역량 강화에도 투입될 수 있다. 체크포인트 리서치는 코덱스를 활용해  위협 요소를 찾는 파이썬 기능 2개를 만드는데 사용햇다면서 보안 담당자들도 챗GPT 같은 거대 언어 모델들을 사용해 자신들 작업을 자동화하고 개선하는 다양한 상상을 촉발시키기를 바란다고 전했다.