*당신의 SNS 게시물들과 검색 기록, 구매 기록으로 신용도를 평가한다면?
*암 치료법을 찾는데 도움이 된다면 당신은 모든 의무 기록을 공개하겠는가?
*범죄를 저질러 기소됐다고 가정하자. 판사와 알고리즘 중 누가 판결하기를 바라는가?
*당신이 자율주행차 설계자라면 사고시 한명의 탑승자를 살릴 것인가, 다수의 보행자를 살릴 것인가?
영국의 수학자 해나 프라이가 자신의 책 ‘안녕, 인간’(원제 Hello World)에서 인공지능(AI) 시대, 점점 거대해져 가는 알고리즘의 권력을 경고하며 던진 질문들이다. 굳이 이에 대한 답을 하지 않아도 AI 알고리즘에 대한 우려가 커지고 있다. 믿었던 공정성에 의문이 들기 시작했기 때문이다.
# 유튜브·넷플릭스가 입맛에 맞는 영상을 골라주고, 네이버·카카오는 관심있는 뉴스를 알아서 보여준다. 알고리즘이 한 것이다. 검색창에 특정 키워드를 입력하면 나오는 자료의 순서를 정하는 것도, 스마트폰으로 호출하면 택시를 연결하는 것도 다 알고리즘이다. 그 뿐인가. 내 취향에 맞는 음악, 책, 옷, 심지어 금융상품까지 우리가 그동안 추천이라는 이름으로 이용해 온 대부분의 서비스 뒤에는 어김없이 알고리즘이 있다.
그런데 이런 유용한(?) 알고리즘을 둘러싸고 시비가 붙었다. 공정거래위원회가 최근 알고리즘 조작을 이유로 국내 최대 인터넷 기업 네이버에 267억원에 달하는 과징금을 부과했다. 네이버가 검색 알고리즘을 고의로 바꿔 운영 중인 샵N·스토어팜·스마트스토어 등 오픈마켓에 자사 상품이 우선 노출되도록 했다는 게 공정위의 판단이다. 네이버가 행정소송을 예고한 만큼 시시비비는 법정에서 가려지겠지만 알고리즘의 신뢰에 금이 간 것은 분명하다.
지난 7일부터 시작된 21대 국회 첫 국정감사의 IT분야 핵심 이슈 중 하나도 알고리즘이다. 야당 의원들은 쇼핑·동영상은 물론 뉴스, 검색, 여론 등 전방위적으로 네이버 알고리즘 조작이 이뤄지고 있다고 주장했다. 네이버 창업자인 이해진 글로벌투자책임자(GIO)의 증인 출석도 요구했다.
알고리즘 조작 논란이 네이버에만 국한된 것은 아니다. 카카오도 ‘카카오T’ 앱의 알고리즘이 카카오 가맹·직영 택시에 우선적으로 배차한다는 의혹을 받고 있다. 배달의민족 등 배달 앱을 둘러싼 알고리즘 조작 논란 역시 끊이지 않고 있다. 사실상 인터넷 플랫폼 전반이 알고리즘 공정성 문제로 몸살을 앓고 있는 셈이다.
# 정말 알고리즘이 공정하지 않은 것일까? 알고리즘은 주어진 문제를 해결하기 위한 단계적 절차일 뿐이다. 절차는 반드시 누군가 정해줘야 한다. 스스로 학습한 데이터를 판단기준으로 삼는 AI 기술과 만났다 해도 마찬가지다. 누군가 기초 데이터를 제공해 줘야 하기 때문이다. 그런데 그 기초 데이터부터 조작됐거나 편향됐다면 어떻게 될까? 트위터가 동시에 올린 흑인과 백인 중 주로 백인사진을 섬네일(이미지 축소판)로 채택해 인종편향 시비에 휘말리고, 구글 포토 앱이 흑인여성을 고릴라로 분류한 사고는 AI 알고리즘이 완벽하지 않다는 것을 입증한 대표적인 사례다. “많은 사람들이 AI는 가치중립적이라고 생각하지만 그렇지 않다. AI는 그 시스템을 설계하는 사람의 생각이 반영될 수밖에 없다.” 다음 창업자인 이재웅 전 쏘카 대표의 말이다.
결국 문제는 알고리즘을 설계한 사람이다. 인터넷 기업들도 자신들이 설계한 알고리즘이 완벽할 수 없다는 것을 알고 있었다. 그래서 오류가 발생하거나 서비스가 바뀔 때마다 알고리즘을 수시로 업데이트했다. 바로 이 과정을 네이버 등은 알고리즘 개편이라고 말하지만 공정위와 정치권 일각에서 조작이라고 보는 것이다.
인터넷 플랫폼의 특성상 따라붙을 수밖에 없는 각종 공정성 시비로부터 방패막이가 필요했을 수도 있다. 실제 네이버, 카카오 등은 그동안 뉴스 편집 방향, 실시간 검색어 순위 등 논란이 있을 때마다 알고리즘을 논리로 내세웠다. AI가 하는 서비스니 조작이나 편향은 있을 수 없다고 대응했다. 그러면서 영업기밀 침해를 이유로 알고리즘은 철저히 베일에 감췄다.
# 이제라도 네이버나 카카오가 알고리즘을 투명하게 공개해야 한다는 얘기가 아니다. 알고리즘은 분명 서비스 품질을 좌우하는 핵심 요소로 기업의 기밀이다. 섣부른 공개시 어뷰징 등 부작용이 발생할 수 있을 뿐 아니라, 구글·페이스북 등 글로벌 기업들과 경쟁해야 하는 국내 인터넷 기업들의 발목만 잡을 수 있다. 알고리즘의 기준과 원칙을 투명하게 검증할 수 있는 해법을 찾자는 것이다.
먼저 인터넷 기업들이 ‘신비주의’를 벗고 보다 솔직해질 필요가 있다. “AI가 완벽하진 않지만 최대한 가치중립적으로 알고리즘을 설계하려 노력하고 있다. 단, 작동 과정엔 절대 개입하지 않는다”고 말이다. 그런 후 기밀이 아닌 선에서 알고리즘을 공개하고 외부 전문가들로부터 검증을 받는 방안도 적극 고려해볼 필요가 있다.
정부와 정치권도 규제보다는 근본적인 대안 마련을 고민해야 한다. 무엇보다 정부가 국내외 기업을 망라하는 인터넷 플랫폼의 불공정 행위에 대한 명확한 기준이 있어야 한다. 사안은 다르지만 구글 인앱 결제 강제화를 두고 불공정 논란이 뜨겁다. 공정위, 방통위 등이 현행법 위반을 들여다보겠다고 했지만 일각에서는 벌써부터 뾰족한 수가 없을 것이라는 얘기가 흘러나온다. 국내 기업에만 엄격한 잣대를 들이대는 것은 역차별이다. 아울러 지금은 4차 산업혁명의 시대다. 여전히 1,2,3차 산업 때의 낡은 기준을 적용하고 있는 것은 아닌지 살펴보기 바란다. 공정위가 내린 제재가 법원 판결로 뒤집혀진 사례가 적지 않다는 것은 생각해 볼 필요가 있다.
정치권도 알고리즘을 정쟁거리로 이용하려는 생각이라면 접어라. 국민들이 바라는 건 인터넷 기업의 창업자를 국감 증인으로 불러 호통을 치고 망신을 주는 모습이 아니다. 이번 알고리즘 조작 논란이 공정한 인터넷 생태계 조성의 해법을 찾아가는 시발점이 되었으면 한다.