"규제 마련이 시급해"…SNS 뒤덮은 'AI 여친'의 실체

[디지털투데이 AI리포터] 최근 인스타그램과 틱톡 등에 인공지능(AI)으로 생성된 성매매 광고가 크게 늘고 있어 IT 업계 고심이 깊다. 전문가들은 AI로 만들어진 이미지가 실제 사람이 아닌 만큼 SNS 자체 검열 시스템에 필터링되지 않는 점을 노린 것으로 보고 있다.

지난 2일(현지시간) 미 NBC에 따르면 메타가 소유한 페이스북과 인스타그램에서 최근 몇 달간 AI를 악용한 성매매 광고가 1000여개 이상 확인됐다. 바이트댄스의 틱톡에도 수백개의 성매매 AI광고가 게재됐다.

이와 관련해 메타(Meta) 대변인은 "AI 생성 여부와 상관없이 과도한 성적 콘텐츠를 포함한 광고는 금지되어 있다"며 자사 정책에 대한 입장을 분명히 했다. 틱톡도 "성적으로 자극적인 광고를 금지하며 문제가 된 사례는 삭제 조치를 취하고 있다"고 설명했다.

SNS를 통한 성매매 광고는 엄격한 단속 대상이지만 사람이 아닌 AI로 만들어져 규제에 적용되지 않았다. 성매매 광고는 큰 가슴과 타이트한 옷을 입은 'AI 여자 친구'가 등장, 앱 사용자에게 'NSFW 사진'이나 , 검열되지 않는 채팅 등을 제안하며 유혹한다.

매체는 메타가 이 같은 성매매 광고를 올리는 앱 개발자 35명을 확인했다고 밝혔다. 틱톡에서도 자극적인 AI 광고를 업로드하는 앱 개발자 14명이 확인됐다고 전했다. 개발자 대부분은 미국이 아닌 해외에 기반을 두며 성적으로 관심이 있는 고객을 겨냥해 이 같은 성매매 광고를 쏟아냈다.

영국 노섬브리아 대학 연구원은 "실제 사람 이미지로 만든 광고는 수익 창출이 불가하지만 개발자는 생성 AI를 활용해 만든 성인 콘텐츠로 수익을 창출하고 있다"고 지적했다.