[디지털투데이 황치규 기자] 인공지능(AI) 스타트업 스캐터랩(대표 김종윤)의 대화형 AI 챗봇 '이루다'를 둘러싼 논란이 일파만파로 커지고 있다.

이루다는 페이스북 메신저 기반 대화형 AI 서비스로 지난해 말 출시되자마자 성희롱 이슈가 불거진데 이어 최근에는 개인정보 침해 및 혐오 발언 논란에 휩싸였다.

이에 따라 현재 개인정보보호위원회 차원에서 이루다의 위법성 여부를 가리기 위해 사실 관계를 파악하고 있다.

스캐터랩은 지난해 말 20세 여대생 페르소나를 가진 이루다 챗봇 서비스를 오픈하면서 명령을 수행하는 AI와는 다르게 친근한 어투로 생동감 있는 대화를 구사하는 기술이 특징이라는 점을 부각했다. 

하지만 출시 이후 이루다가 성희롱 관련 대화에 제대로 대응하지 못하고 있다는 지적이 쏟아졌다. 개발사 윤리 의식도 도마위에 올랐다. 이같은 문제에 좀 더 철저하게 대응했어야 하는데, 너무 안이하게 서비스를 내놓은 것 아니냐는 것이다.

성희롱 논란이 계속되자 스캐터랩은 8일 블로그에 올린 입장문에서 "이루다에 대한 성희롱은 예상했다. 인간은 AI에게 욕설과 성희롱을 한다. 이건 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다. 이루다는 우리 첫 AI 프로덕트가 아니다. 고양이 챗봇 ‘드림이’부터 시작해서, 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나‘를 꾸준히 만들고 서비스해왔다. 그 동안의 서비스 경험에 비추어봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일이었다. 다시 한 번 강조하지만, 이건 성별과 무관하게 일어나는 일"이라고 설명했다.

스캐터랩은 문제가 되는 부분에 대해서도 1차 조치는 취했다는 입장이다.

회사측은 "문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다. 일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다. 인간의 언어라는 건 키워드를 사용하지 않고도 얼마든지 의미를 전달할 수 있다. 그게 언어의 어려운 점이다"고 해명했다.

이루다를 둘러싼 논란은 성희롱 이슈에서 끝나지 않았다. 최근에는 이루다를 통한 개인정보 침해 논란까지 일고 있다.

이루다는 스캐터랩이 개발한 서비스 연애의과학에서 수집한 카카오톡 대화를 활용해 개발됐다. 연애의과학은 이용자가 자신의 카카오톡 대화 자료를 공유하면 이를 분석해 연애 관련 조언을 해주는 서비스다. 이루다가 연애의과학을 통해 확보한 카카오톡 대화 데이터를 활용하는 과정에서 일부 이용자들이 자신들이 카카오톡에서 했던 것으로 보이는 대화가 이루다가 하는 말에 나타나는 경우가 발생하고 있다는 지적이 나오고 있다.  

이와 관련해 스캐터랩 측은 개인 정보는 비식별화 과정을 거쳤기 때문에 이루다를 통해 공개되지 않는다는 입장이다. 회사 관계자는 "일부 대화들이 유사하게 보일 수는 있지만 개인 정보 유출은 없다"고 선을 그었다. 하지만 일부 사용자들 사이에선 개인 정보로 보이는 데이터가 유출됐다는 지적이 계속 나오고 있어 논란이 예상된다.

연애의과학 서비스 약관을 보면 카카오톡 대화가 신규 서비스에 활용될 수 있다고 나와 있다. 하지만 많은 사용자들이 연예의과학에만 쓰일 것으로 보고 카카오톡 대화 공유에 오케이했을 가능성이 높다. 이루다 서비스에도 활용되고 있다는 것을 모르는 이들도 많다는 얘기다.

개인정보보호위원회 조사도 이 부분에 초점이 맞춰져 있다. 개인정보보호위원회 관계자는 "우선 사실관계를 확인하고, 위법사항이 발견되면 법령에 따라 조처할 것"이라며 "최대한 빨리 스캐터랩에 자료를 요구할 계획이고, 필요하면 현장 조사도 나갈 방침"이라고 밝혔다. 이어 "(연애의 과학 앱을 통해 수집한) 카카오톡 대화를 이루다라는 다른 서비스 개발에 갖다 쓴 과정을 집중적으로 들여다볼 계획"이라고 말했다.