[디지털투데이 AI리포터] 틱톡샵이 생성형 인공지능(AI)을 활용한 사기 판매자 증가로 인해 골머리를 앓고 있다. 

6일(현지시간) 비즈니스인사이더에 따르면, 일부 판매자들은 AI 도구를 이용해 가짜 브랜드나 모조품 이미지를 제작하고, 실제 없는 상품을 등록하여 소비자들을 속이고 있다.

이러한 전자상거래 사기는 과거에도 있었으나, 생성형 AI 발전으로 범죄 방식이 지능화되면서 틱톡샵과 아마존 등 플랫폼의 검수팀이 큰 부담을 안게 되었다.

이를 해결하기 위해, 틱톡은 AI와 인력을 결합한 감시 체계를 운영하며 부정 계정 및 허위 상품 등록을 탐지 중이다. 또한 외부 전문업체와 협력해 명품 중고품 진위 여부를 검증하는 등 신뢰도 향상에 노력을 기울이고 있다.

이러한 노력으로, 틱톡은 2025년 상반기 동안 정책 위반으로 7000만개의 상품을 차단하고 70만명의 판매자를 퇴출시켰다. 틱톡은 모니터링 체계를 고도화하고 있지만, 자동화된 단속 시스템이 명확한 설명 없이 제재를 가한다는 불만도 일부 제기되고 있는 상황이다.