소셜미디어 트위터가 올해 미국 대선을 앞두고 '딥페이크' 등 합성·조작 콘텐츠를 금지하기로 했다고 경제매체 CNBC가 4일(현지시간) 보도했다.

트위터는 이날 이용자들이 "남을 속이기 위해 합성·조작된 미디어를 공유하는 것"을 금지한다는 새 콘텐츠 규정을 발표했다. 이에 따라 트위터는 3월 5일부터 합성·조작 콘텐츠가 포함된 트윗을 걸러내 삭제하거나 표시를 하기로 했다.

트위터는 ▲콘텐츠의 합성·조작 여부 ▲남을 속이려는 방식으로 공유됐는지 ▲내용의 심각한 폐해 유발 가능성 등 3단계 검증을 통해 규정 위반 여부를 판단한다.

세 질문에 모두 '그렇다'란 답이 나오면 해당 콘텐츠의 삭제 가능성은 아주 높다. 이 세 가지 기준 중 1∼2개에 해당하는 콘텐츠는 '변경됨' 또는 '조작됨'이란 표시가 붙는다.

또 이용자가 게시물을 리트윗하거나 좋아한다는 표시를 하기 전에 '변경됨', '조작됨' 같은 경고를 보여줄 계획이며 이용자를 해당 콘텐츠의 맥락을 알 수 있는 곳으로 안내하기로 했다.

CNN은 트위터가 발표한 규정이 포괄적이어서 이른바 '칩페이크'(cheapfakes)로 불리는, 간단한 기술이 적용된 조작 콘텐츠에 대해서도 트위터가 행동을 취할 수 있다고 지적했다.

트위터 관계자는 일례로 지난해 논란이 된 낸시 펠로시 미 하원의장의 조작 동영상도 '조작됨' 표시가 붙을 수 있다고 설명했다.

이 동영상은 재생 속도를 늦춰 펠로시 의장이 술에 취한 듯 어눌하게 말하는 것처럼 꾸몄다.

이는 앞서 민주당 등으로부터 비판을 받은 페이스북의 콘텐츠 규정과는 차별화되는 것이다.

페이스북은 지난달 정교한 인공지능(AI) 알고리즘을 이용해 조작된 이미지나 동영상인 '딥페이크'(deepfake)는 금지하면서도 풍자나 패러디를 위해 조작된 동영상, 일부 내용을 생략하거나 어순을 바꾸기 위해 편집한 동영상은 예외로 인정했다. 그러면서 펠로시 의장과 관련한 조작 동영상은 새 금지 규정에 저촉되지 않는다고 밝혔다.

유튜브 역시 전날 조작된 선거 관련 동영상을 삭제하겠다고 발표했다.

[연합뉴스]