[디지털투데이 강진규 기자] “20대 청년 A씨는 인스타그램 다이렉트 메시지(DM)로 협박을 받았다. 협박범은 인스타그램에 올린 A씨 사진을 이용해 딥페이크(인공지능을 기반으로 한 사람 이미지 합성) 기술로 음란물 영상으로 만들었다며 돈을 보내지 않으면 이를 지인들에게 유포하겠다고 협박했다.”

“아이돌 가수 팬인 B씨는 해외 인터넷을 검색하다가 우연히 자신이 좋아하는 가수의 유출 영상이 있다는 내용을 봤다. 사실은 해외에서 딥페이크 기술로 만든 가짜 영상이었지만 감쪽같은 영상에 B씨는 충격을 받았다.”

영화, 소설 속에서 등장할 것 같았던 인공지능(AI) 기술을 이용한 사이버범죄가 현실로 나타나고 있다. AI 기술로 유명 연예인들의 얼굴을 합성한 음란물을 제작하는 것은 물론 일반인들을 겨냥한 신종 AI 피싱까지 등장했다.

5일 보안업계에 따르면 전 세계적으로 한국 아이돌 가수들이 인기를 끌면서 범죄의 타겟이 되고 있다.

범죄자들은 AI 딥페이크 기술로 음란 영상에 연예인들의 얼굴을 합성한 후 이를 돈벌이에 이용하고 있다. 과거에도 범죄자들이 연예인들의 얼굴을 음란 사진에 합성했던 사례가 있었다. 하지만 사진에 국한됐고 조잡한 형식이었다.

그런데 최근에는 AI 기술로 정교하게 합성 영상을 제작하고 있다는 것이다. 관계자들에 따르면 한 불법사이트에서는 소녀시대, 트와이스, 레드밸벳, 뉴진스, 아이브, 블랙핑크, 아이유, 에스파 등 가수들의 얼굴을 불법으로 합성하고 있었다. 일부 범죄자들은 전 세계적으로 인기를 끌고 있는 방탄소년단(BTS) 멤버들의 얼굴을 합성한 불법 영상까지도 제작한 것으로 알려졌다. 유명 연예인들은 누구든 범죄의 대상이 될 수 있다는 지적이다.

이같은 합성 영상 제작은 성폭력범죄의 처벌 등에 관한 특례법 위반으로 엄중히 처발 받게 된다.

최근에는 유명 연예인들 뿐 아니라 일반인들을 대상으로 한 AI 사이버범죄가 확산되고 있다.

법조계에 따르면 올해 들어 딥페이크 영상으로 협박을 받았다고 상담을 하는 사람들이 늘고 있다. 인스타그램, 페이스북 등을 통해서 메시지를 보내 소셜네트워크서비스(SNS)에 올린 사진으로 딥페이크 영상, 사진을 만들었다며 돈을 보내라고 협박한다는 것이다. 일부는 무작위로 협박을 하고 있는 것으로 알려졌지만 실제 범죄 가능성도 있다는 지적이다.

AI를 이용한 몸캠피싱, 로맨스스캠에 대한 우려도 높아지고 있다. 한 법률사무소에 따르면 범죄자들이 SNS 등으로 접근한 후 딥페이크 기술로 여성으로 가장해 화상채팅을 하고 있다. 이런 방식으로 남성들에게 은밀한 영상을 요구하고 있다. 그리고 자신의 정체를 드러낸 후 영상을 유포하겠다고 협박한다는 것이다.

여기에 AI에 대한 접근성이 높아지면서 청소년들이 범죄에 빠지고 있다. 인터넷 커뮤니티 등에는 10대 청소년, 20대 청년들이 주변 지인이나 연예인을 대상으로 딥페이크 사진, 영상을 제작했다고 적발됐다는 상당이 줄을 잇고 있다. 반대로 전 남자친구나 주변 지인이 자신의 사진으로 딥페이크 사진, 영상을 만들어 협박을 받고 있다는 고민도 이어지고 있다.

10~20대 청년들이 AI 툴을 이용하면서 AI 사이버범죄의 가해자이자 피해자가 되고 있는 것이다.

국내에서 AI 사이버범죄가 점차 늘어나면서 이를 전문적으로 다루는 수사관, 법조인들도 나타나고 있는 것으로 알려졌다.

전문가들은 수년 전부터 이런 상황을 우려했다. 예를 들어 2021년 5월 국가정보원은 딥페이크를 이용한 사이버범죄 가능성을 경고했다. 전 세계 범죄조직들이 딥페이크 기술을 이용해 피해자의 가족, 지인을 사칭한 후 금품을 갈취하거나 피해자의 사진으로 음란물 등을 만들어 협박하는 사례가 나타나고 있다는 것이다.

당시에는 먼 훗날의 이야기로 예상됐지만 이미 AI 사이버범죄가 현실로 다가온 만큼 대책 마련이 시급하다는 지적이다.