커지는 딥페이크 보이스피싱 우려...경고 잇따라

[디지털투데이 강진규 기자] 인공지능(AI)으로 얼굴, 음성을 변조하는 딥페이크(Deepfake) 기술을 이용한 피싱 범죄에 대한 경고의 목소리가 높아지고 있다. 이미 해외에서 유사한 사례가 나타나고 있으며 국내에서도 딥페이크 범죄가 나타나고 있어서 딥페이크 피싱이 발생하는 것은 시간 문제라는 지적이다.

29일 정부 관계자들에 따르면 지난달 국회입법조사처가 주요국의 피싱 사기 입법·정책 동향과 시사점 보고서를 발간했다.

보고서는 해외 피싱 동향을 소개하면서 딥페이크 피싱 대응의 필요성을 언급했다.

입법조사처는 “통신사, 플랫폼기업, 은행에게 기술 발전과 통신 이용 방식 변화에 따른 새로운 피싱 사기에 적극적으로 대응하도록 의무를 부과해야 한다”며 “실제 인물의 얼굴과 목소리를 모방하는 딥페이크 기술이 피싱 사기에 사용되면서 개인 스스로 피싱 사기 여부를 판단할 수 있는 영역을 벗어나고 있어 기업 차원에서 피싱 사기 탐지 기술을 개발할 필요가 있다”고 주장했다.

딥페이크는 특정 인물의 얼굴, 음성 등을 AI 기술을 이용해 변조, 합성하는 것을 뜻한다. 딥페이크는 유명인이나 일반인의 얼굴을 합성하는 디지털 성범죄에 쓰이고 있으며 최근에는 가짜뉴스, 가짜영상 제작에도 악용되고 있다. 그런데 딥페이크 기술이 피싱에도 쓰일 수 있다는 것이다.

전문가들은 범죄자들이 유명인이나 실제 공공기관, 금융회사에 근무하는 사람을 딥페이크로 제작해 피싱을 시도할 수 있다고 우려한다. 나아가 딥페이크로 가족, 지인 등을 사칭하는 맞춤형 피싱도 등장할 수 있다는 지적이다.

딥페이크 피싱을 경고한 것은 입법조사처만이 아니다. 올해 5월 국가정보원은 국제 범죄 위험을 경고하는 ‘국제범죄알리미 제1호’를 발표했다. 그런데 국정원이 경고한 범죄가 딥페이크였다. 국정원은 딥페이크가 가짜뉴스 제작, 디지털 성범죄에 이용되고 있으며 딥페이크 보이스피싱이 나타날 수 있다고 경고했다.

국정원은 해외 딥페이크 금융범죄를 소개했다. 2019년 3월 유럽의 한 기업 최고경영자(CEO)가 모 기업 회장의 목소리를 딥페이크 기술로 모방한 범죄자에게 속아 22만 유로를 송금하는 피해를 당했다는 것이다. 또 2021년 1월 A국에서 한 여대생이 대학 친구의 얼굴을 딥페이크로 모방한 범죄자와 영상통화를 한 후 돈을 빌려달라는 부탁에 송금을 하는 피해를 입었다고 한다. 2021년 3월 B국에서는 범죄조직이 정부에서 운영하는 안면 인식 시스템을 딥페이크 기술로 속이는 방식으로 가짜 세금계산서를 발행해 세금을 탈루하려다가 적발되기도 했다.

금융보안원 역시 딥페이크 사기를 우려하고 있다. 올해 5월 26일 열린 금융보안원의 ‘핀테크 시대의 금융보안’ 세미나에서 이강석 금융보안원 차장도 딥페이크 사기를 경고했다.

그는 최근 경찰, 광공서 등의 실제 안내 음성을 녹음하고 그것을 보이스피싱 등 범죄에 사용하는 사례가 나타났다고 설명했다. 이 차장은 “가령 악성 앱으로 사용자의 음성과 통화내역 등을 녹음하고 딥보이스(음성 합성)를 악용해 사용자의 목소리를 분석해서 악용할 수 있다”고 설명했다. 또 영상을 합성하는 방식으로 신종 보이스피싱이 나타날 수도 있다고 지적했다.

전문가들에 따르면 아직까지 딥페이크를 이용한 피싱 등이 공식적으로 드러나지는 않았다. 하지만 국내에서도 딥페이크가 범죄에 쓰이고 있기 때문에 피싱에 사용될 가능성이 높다는 지적이다. 국내에서도 일부 범죄자들이 의뢰를 받아서 유명인이나 일반인의 얼굴을 합성한 음란물을 제작하고 있는 것으로 알려졌다. 또 일부 영상, IT 전문가들이 딥페이크 음란물을 만들거나 가짜뉴스를 만드는 일탈 행위를 하고 있다는 지적도 있다.

전문가들은 딥페이크 기술이 국내에서도 암암리에 쓰이고 있기 때문에 피싱 조직이 딥페이크 범죄자들에게 의뢰를 하거나 동업을 하는 형식으로 딥페이크 피싱이 나타날 수 있다고 관측한다.

국정원은 딥페이크 피싱을 예방하기 위해 가족, 지인 등과 채팅, 통화 시 금전을 요구받는 경우 가짜일 수도 있다고 인식하고 주의해야 한다고 지적했다. 이런 경우 그 사람만이 알 수 있는 ‘확인 질문’ 등을 통해서 확인해야 한다는 것이다.

선제적으로 딥페이크 공격을 막기 위한 기술을 개발해야 한다는 지적도 있다. 올해 2월 삼성SDS는 사이버보안 7대 트렌트를 발표하면서 딥페이크를 이용한 정보왜곡 및 조작 위험성이 더욱 높아졌다며 이를 방어하기 위해 AI 기반 멀티미디어 위변조 검출 및 자동탐지, 분석 기술이 필요하다고 밝혔다.