[디지털투데이 이호정 기자] 국내 양대 포털 사이트인 네이버와 카카오가 4월 총선을 앞두고 딥페이크(가짜 디지털 조작물·사진)나 가짜뉴스 등이 정치적으로 악용되는 것을 막기 위해 신경을 쓰는 모습이다.

네이버는 최근 검색 블로그를 통해 "생성형 인공지능(AI), 딥페이크 등으로 인한 피해 방지를 위해 노력하고, 허위 정보 확산을 막기 위해 앞장선다"고 밝혔다. 

이를 위해 먼저 네이버는 대화형 AI 서비스인 '클로바 X'와 생성형 AI 검색 특화 서비스인 '큐:'(CUE:) 서비스를 통한 선거 관련 정보 요청이나 예측 등을 제공하지 않는다. 현재 관련 정보를 입력하면 "인공지능 언어모델로서 정치적인 입장이나 의견을 가지고 있지 않으며, 미래에 일어날 선거 결과를 예측할 수 없다"는 등의 문구가 뜬다. 

또 네이버는 다양한 형태의 사용자 질문이나 요청 형태로 인해 일부 관련 정보가 제공될 수 있는 점을 고려해 선거기간 동안 두 서비스 하단에 선거 관련 사용자 주의 안내 문구를 제공할 예정이다.  

네이버는 딥페이크와 관련한 피해 방지를 위해서도 관련 안내 문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 한다. 이에 블로그나 카페 등 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다. 

네이버 측은 "사용자 안내와 함께 딥페이크 관련된 게시물로 인한 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말을 새롭게 구성해 관련 내용을 쉽게 찾을 수 있도록 할 예정"이라고 말했다. 

이 밖에도 네이버는 선거 관련 허위 정보 신고를 위한 채널도 운영한다. 이를 통해 네이버 뉴스에서 선거 관련 허위정보 등이 포함된 댓글을 신고할 수 있다.

명예훼손 등 권리보호센터를 통해 접수되는 게시중단 요청의 경우 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 한국인터넷자율정책기구(KISO) 선거 관련 정책에 따라 운영될 예정이며, 게시물에 대한 임시조치는 선거관리위원회의 결정에 의해 이뤄지게 된다. 

네이버는 "뉴스 댓글 집중 모니터링 기간 동안 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정"이라고 말했다. 

카카오의 경우 카카오브레인의 이미지 생성 모델인 '칼로'에 비가시성 워터마크를 붙이는 기술 도입을 검토하고 있다. 

카카오 측은 "비가시성 워터마크는 유저들에는 워터마크가 보이지 않으나 기술적으로는 칼로 생성 여부를 할 수 있는 기술로 구글에서도 해당 기술을 연구 운영 중"이라고 설명했다. 

또 카카오는 유해 콘텐츠를 필터링하는 기술에 대한 연구를 진행하고 있다고 밝혔다. AI 콘텐츠 건강성 관련 연구 차원에서 허위정보 혹은 딥페이크를 검출하는 역할을 하는 방향으로 연구 중이란 설명이다. 별도로 AI어뷰징 관련 기술적 대응을 위한 팀도 운영 중이다. 

이와 함께 포털 다음의 경우도 가짜뉴스 대응을 포함한 선거 서비스 운영 원칙을 공개하고 기준에 따라 운영할 예정이다. 

다음의 경우 선거 때 다음뉴스 메인 페이지에 선관위의 허위정보 신고센터 배너를 노출해 왔다. 카카오 측은 "허위정보나 법 위반 건에 대한 이용자의 적극적인 신고와 안내를 지원하고 있다"며 "이번 선거 때도 동일하게 운영하는 것을 검토 중"이라고 말했다. 

또 인터넷선거보도심의위원회의 불공정 선거보도 경고∙주의를 받은 기사에 대해서도 '고침기사, 정정·반론·추후보도 모음' 코너를 통해 제공하고 선거특집 페이지에도 고정해 제공한다는 방침이다. 여기에 다음뉴스에선 언론사별 팩트체크 코너도 제공하고 있다.

카카오 측은 "다음은 욕설, 명예훼손, 언론사 사칭 등 이용자의 안전을 위한 다양한 조치를 시행 중"이라고 강조했다. 

한편 네이버와 카카오, SK커뮤케이션즈, 구글코리아와 메타코리아, 바이트댄스(틱톡 운영사) 한국지사 등 주요 IT 대기업들은 자율협의체를 구성해 악의적으로 제작된 딥페이크 콘텐츠에 대한 공동 대응에 나설 예정이다. 협의체는 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등의 대응 방안을 마련해 조속한 시일 내 발표할 예정이다.