[디지털투데이 정유림 기자] 카카오가 인공지능(AI) 기술을 활용해 불쾌감을 불러일으키는 댓글을 분석하고 이를 선별해 보여주는 '세이프봇' 베타 서비스를 시작했다.

17일 카카오에 따르면 포털 다음과 메신저 카카오톡 #탭의 뉴스 댓글 서비스에 이 기능이 적용됐다. 세이프봇은 욕설이나 비속어를 변형한 댓글, 게시물 운영 정책을 위반한 댓글 등을 AI 기술로 분석해 자동으로 가려준다. 세이프봇은 기본적으로 켜져있는(ON) 상태로 설정돼 있는데 설정 옵션에서 사용 여부를 선택할 수 있다.

카카오는 건강한 댓글 환경 조성 일환으로 이같은 서비스를 선보이게 됐다고 설명했다. 욕설이나 비속어, 음란, 불법 키워드 등이 포함된 댓글은 신고를 한다고 해도 실제 삭제가 되기까지 시간이 걸린다. 이에 세이프봇을 활용하면 댓글 서비스를 이용하는 과정에서 느낄 수 있는 불편함을 최소화할 수 있을 것으로 기대한다고 카카오 측은 덧붙였다.

카카오는 앞서 지난 2월 실시간 이슈 검색어를 폐지하고 댓글 이용자 권리 보호 강화를 위해 악성 댓글 신고·제재 정책을 강화한 바 있다.

기존에는 악성 댓글 신고 기준에 욕설, 비속어 항목만 있었다. 하지만 욕설이나 비속어를 쓰지 않더라도 다른 사람에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안해 차별, 혐오 항목도 추가해 운영하고 있다. 이어 6월에는 이용자들이 댓글에 남긴 피드백을 바탕으로 댓글을 임의 순서대로 보여주는 '추천댓글’ 정렬을 신설한 바 있다.

카카오의 세이프봇과 비슷한 서비스로는 네이버의 클린봇이 있다. 네이버는 지난 6월 기능을 업그레이드한 클린봇 2.0을 선보여 운영 중이다. 클린봇 2.0은 AI 기술을 활용해 비속어가 없어도 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되는 댓글을 골라낸다. 또 악성 댓글 상습 작성자를 클린봇이 자동으로 판단해 선별한 뒤 일정 기간 서비스를 이용할 수 없게 제한한다.