[디지털투데이 석대건 기자] 지난 2015년 구글은 인종차별 논란에 휩싸였다. 한 흑인의 사진을 고릴라로 인식하고 동물로 분류한 것이다. 이후 구글은 오류를 인정하고 재발 방지를 약속했다.

하지만 엄밀히 따지면 구글의 잘못은 아니다. 사진 속 흑인을 고릴라로 분류한 건 AI(인공지능)이었다. 그리고 구글 AI가 그런 판단은 내린 이유는 웹상의 수많은 이미지를 학습한 결과였다. AI의 알고리즘이 잘못 구현된 사례다.

AI, 여전히 블랙박스

흔히 AI의 결정은 주관이나 편견에 좌우되지 않기 때문에 인간에 비해 객관적일 것이라 판단하지만, 흑인과 고릴라 오판 사례와 같이 편향성은 AI의 새로운 문제점으로 부각되고 있다.

이는 기업의 의사 결정 과정에서도 동일하게 적용된다. 객관적인 결정을 위해 AI를 적용했지만 결과를 보면 인간보다 편향적인 결과를 내는 것이다.

예를 들어, 은행에서 ‘젊은 무직자’와 ‘중년의 기업 임원’을 상대로 대출 심사에 AI를 적용했는데 결과를 놓고 보니, 무직자는 적격자로, 기업 임원은 비적격자가 선정됐다. AI가 ‘나이’요소를 ‘직업’요소보다 더 높은 점수를 줬던 것이다.

이 또한 흑인-고릴라 오류 사례와 같이 대출 상환기간이 길어야만 상환율이 높다는 편향된 빅데이터를 학습한 결과였다.

기업 입장에서도 AI는 여전히 미지의 영역이다.

시장조사기업 가트너에 따르면, 글로벌 기업 47%가 AI를 실제로 업무에 사용하는 데 어려움을 느낀다고 밝혔다.

이에 대해 최안나 한국IBM 왓슨사업부 기술영업팀장은 “AI가 왜 그런 결정을 하는지 알아야 하는데 믿을 수가 없다”며, “현재 많은 기업의 AI는 대부분 분석 단계에 그쳐 파일럿 이후 적용하지 않는 게 현실”이라고 말했다.

결국 AI를 제대로 사용하기 위해서 의도치 않았던 빅데이터 기반 편향성을 줄여내야만 하는 셈이다.

한국IBM, “AI 오픈스케일로 AI 편향성 줄이고 검증성을 높여”

AI 안에서 담겨진 블랙박스를 IBM이 꺼내기로 선언했다.

IBM은 AI의 편향성을 모니터링하고 스스로 조절하는 솔루션인 ‘AI 오픈스케일(AI OpenScale)’을 공개했다. AI 오픈스케일은 AI가 결정을 내린 이유를 알려주는 한편, 편향성 평가 메트릭을 제공한다. AI를 검증하는 AI라고 볼 수 있다. 

데이비드 케니(David Kenny) IBM 수석부사장은 “기업이 AI를 신뢰하고, 적용 분야를 확장할 수 있을 때 비로소 AI 경제를 구현할 수 있다”며 강조했다. 

IBM은 기업 입장에서 볼 때, 'AI 오픈스케일'을 통해 AI가 가진 불확실성을 제거하여 결과적으로 기업의 AI 도입을 촉진할 수 있고, AI가 도출해 낸 의사결정 과정을 이해하고, 편향성을 탐지·대응할 수 있게 된다. 구글의 흑인-고릴라 오류 같은 사례는 사전에 방지하는 것이다.

더불어 IBM의 왓슨(Watson) 뿐만 아니라 다른 AI 모델과의 호환성도 살렸다.

최안나 기술영업팀장은 “오픈소스 기반으로 제공되기 때문에 왓슨이 아니더라도 동시에 운용할 수 있다”고 설명했다. 

더 나은 선택, 우리가 AI를 사용하는 이유

그렇다면 AI를 의사 결정에 사용하지 않고 처음부터 인간이 결정하면 되지 않을까? 

하지만 이는 ‘최선의 선택 결정’이라는 궁극적인 목표을 잊은 질문이다. 최안나 기술영업팀장은 “우리가 AI를 사용하는 이유는 더 나은 방식으로 더 나은 결과를 얻기 위함”이라며, “AI 오픈스케일은 편향성을 낮추기 위한 노력이라고 볼 수 있다"고 말했다.

이번에 공개된 IBM의 AI 오픈스케일은 10월 15일 전세계적으로 공개됐으며, 아직까지는 공식적으로 채택한 기업은 없다.

그러나 이미 대부분의 기업이 AI를 쓰고 싶지만 쓸 수 없는 상황이다. AI 오픈스케일은 빅데이터를 활용하고자 하는 기업이 선택할 수 있는 적절한 대안으로 떠오를 것으로 보인다.