[디지털투데이 추현우 기자] 중국 국가사이버정보판공실(CAC)이 생성 AI(generative AI)를 이용한 콘텐츠에 대해 제작과 유통을 금지하는 규정을 11일(현지시간) 발표했다.

2023년 1월 10일부터 시행되는 '인터넷 정보 서비스의 심층합성 관리에 관한 규정'(이하 규정)은 기본적으로 국가 안보와 공익 보호, 시민, 법인 및 기타 단체의 정당한 권리와 이익을 보호하기 위한 규정이다.

최근 AI 기술의 급속한 발전으로 딥페이크 등 합성 기술이 광범위하게 사용됨에 따라 가짜뉴스와 불법, 허위 정보 확산은 물론 타인의 명예를 훼손하고 이를 통한 사기, 사회 질서에 악영향을 미치는 사례가 증가함에 따라 중국 규제 당국이 강력한 단속을 위한 규정 마련에 나선 것.

특히 생성 AI를 통해 제작한 고도의 합성 기술에 대해 면밀히 주시할 것임을 CAC는 강조했다.
구체적으로 중국 당국이 중요하다고 인식하는 텍스트, 이미지, 음성 및 비디오 합성 콘텐츠에 대해 워터마크 등 출처 표기가 없는 콘텐츠에 대한 제작 및 유통을 금지한다고 명시했다.

CAC는 아울러 규정에 따라 새로운 합성 콘텐츠의 경우 정부 당국의 보안 평가를 받게 된다고 설명했다. 각 콘텐츠가 공개되기 전에 규정을 준수하는지 확인하고 생성 AI 콘텐츠를 나타내는 정확한 표기(워터마크)가 포함돼야 한다는 것이 주된 내용이다. 

아울러 어떠한 조직이나 개인이 기술적 수단을 통해 관련 표기를 삭제하거나 변조 또는 은폐해서도 안 된다고 덧붙였다. 생성 AI 제작자 역시 제작 내용에 대한 기록과 실명 계정 등록을 의무화했다.

이같은 조치는 중국 규제 당국이 생성 AI 기술이 가져올 부작용과 폐해를 최대한 사전에 예방하고 차단하고자 하는 목적으로 해석된다. 특히 AI를 통해 만들어진 정치적 목적의 콘텐츠를 차단하는 것이 주된 목적으로 인식되고 있다.

중국은 지난 2019년부터 출처 표기가 없는 딥페이크 콘텐츠를 불법으로 규정했으며, 2020년부터 실제 규제에 들어가는 등 단속을 시행하고 있다.