챗GPT 기반 피싱 우려 현실화 되나

[디지털투데이 강진규 기자] 국가정보원이 생성형 인공지능(AI) 챗봇 챗GPT를 악용한 피싱 가능성을 경고했다. 

18일 보안업계에 따르면 국정원은 최근 국제범죄 대응의 일환으로 피싱 최신 수법들을 소개하고 주의를 당부했다.

특히 국정원은 AI 기술 중 챗GPT를 악용한 공격 가능성을 경고했다. 챗GPT는 오픈AI가 개발한 대화 전문 인공지능 챗봇으로 전 세계적으로 화제가 되고 있다.

국정원은 범죄자들이 AI 기술을 사기 시나리오 개발, 피싱 메시지 작성에 이용하거나 가짜 챗GPT 웹사이트, 앱을 만들어 정보 및 금전을 탈취할 수 있다고 지적했다.

국정원은 챗GPT 등 AI 챗봇을 범죄자들이 로맨스 스캠에 악용할 수 있다고 밝혔다. 로맨스 스캠은 소셜네트워크서비스(SNS)를 통해 접근한 후 온라인 상에서 대화를 하며 친분을 쌓아 연애를 하는 것처럼 유도한 후 사기를 치는 수법이다. 로맨스 스캠은 영어로 시도되거나 어눌한 한국어로 이뤄졌다. 이제 범죄자들은 AI 챗봇의 번역기능을 이용해 실시간으로 더 정교하게 사기를 시도할 수 있게 됐다. 국정원에 따르면 이런 시도가 호주, 브라질 등에서 적발됐다고 한다.

전문가들은 피싱 시나리오를 AI로 짜거나 피싱에 이용하는 사진을 제작할 수도 있다고 우려하고 있다. 여러 사람들의 사진을 AI로 조합해 가짜 사진을 만들어 로맨스 스캠을 시도할 수도 있다는 지적이다.   

또 국정원은 미국에서 가짜 챗GPT 앱을 배포하는 수법으로 금전을 편취하거나 챗GPT 사칭 사이트를 만들어 접속자의 SNS 계정 정보를 탈취하는 사례가 있었다고 전했다.  

이와 함께 국정원은 딥페이크 기술로 피해자의 목소리나 얼굴을 모방해 피해자의 지인, 가족을 대상으로 금전 편취를 할 수 있다고 지적했다. 딥페이크는 AI 기술로 영상 속 인물의 얼굴을 바꾸거나 목소리를 모방하는 기술이다.

국정원에 따르면 태국에서는 영상통화를 하면서 딥페이크를 활용해 경찰로 위장하는 사례가 있었다. 미국, 캐나다 등에서는 피해자 음성을 모방해 피해자 부모에게 전화한 후 교통사고가 발생했다며 금전을 갈취하려는 사례가 있었다.

실제로 지난 4월 13일 IT매체 기가진은 미국 애리조나 주에서 AI를 이용해 딸의 목소리를 복제한 가짜 납치 전화로 보이스피싱을 시도한 사례가 있다고 보도했다.

그동안 보이스피싱, 메신저 피싱의 경우 다른 전화 등을 통해 피싱이 가짜라는 것을 확인해 대응했다. 이제는 AI를 통해 목소리, 영상 등을 가장할 수 있는 만큼 가짜를 확인하기가 더 어려워질 것으로 보인다.

이에 국정원은 피싱 대응 방안도 새롭게 제시했다. AI 기술이 범죄에 악용될 수 있음을 감안해 음성, 영상 통화를 하더라도 주의를 기울여야 한다는 것이다. 금전, 개인정보를 요구하는 등 의심스러운 상황에서는 당사자만 알고 있는 확인 질문을 할 것을 권고했다.

또 국정원은 챗GPT 등을 악용해 정교한 피싱메일 작성이 가능하다는 점을 유의해 출처가 불분명한 이메일, 파일을 열어보지 않도록 더 주의해야 한다고 밝혔다.