[디지털투데이 신민경 기자] 금융당국이 인공지능(AI) 활성화를 위해 빅데이터 인프라를 구축하고 알고리즘 유효성 검증을 위한 테스트베드 마련에 나선다. 또 2분기 중으로 공정성과 투명성 제고를 위한 금융분야 AI 가이드라인을 만들기로 했다.

금융위원회는 13일 영상회의로 제7차 디지털금융 협의회를 열고 이런 내용 등을 담은 'AI 운영 가이드라인 운영 방안'을 논의했다.

이 자리에서 도규상 부위원장은 "AI는 인간보다 빠르게 더 많은 정보를 처리함으로써 의사결정의 효율성을 높이지만 의사결정의 편향성 등 공정성 이슈가 제기될 수 있다"며 "양자간 조화를 이룰 수 있도록 운영 가이드라인을 만들겠다"고 말했다.

금융위는 서울대 산학협력단에 발주해 얻은 연구용역 결과를 바탕으로 AI 가이드라인을 마련한다는 방침이다.

서울대 산학협력단은 최근 마친 '금융 분야 AI 운영 가이드라인 연구용역'에서 AI 시스템의 잠재적 위험을 평가·관리할 거버넌스를 구축하고 전 과정에서 적절한 평가를 시행해 신뢰성을 확보해야 한다고 제언했다.

AI 활용사례의 사회적 영향평가, 개발 시 학습데이터의 품질 및 개인정보 활용의 정당성 평가, 성능·공정성(비차별성)에 대한 검증, 안전성 평가 등이 필요하다는 설명이다.

금융상품 판매 시 주로 사용되는 전문적 내용이 축적된 말뭉치 데이터세트, AI 학습·교육용 인조 합성데이터 등 빅데이터 인프라를 정부가 공공재 성격으로 구축하면, 개별 금융기관이 각자 자체적으로 보유한 데이터만으로 AI를 개발할 때 생기는 한계를 보완할 수 있다.

인프라 활성화를 위해 'AI 설명 테스트베드(가칭)'도 구축한다. 금융 챗봇이 소비자에게 금융상품을 판매할 때 설명의무를 적절하게 이행할 수 있는지 등을 실증적으로 측정하는 기능을 한다.

연구진은 공정성 평가와 관련, 금융소외계층의 금융 접근성을 높여야 할 때는 결과적 평등 기준을, 대출 심사 등 금융거래 기회를 제공할 때는 기회의 평등 기준을 적용하는 등 맥락에 따라 유연하게 평가해야 한다고 조언했다.

정확성 측면에서도 대출 심사 때는 자격을 갖춘 사람이 거절되는 위험을 최소화하고 사기 거래 탐지 때는 부적절한 거래를 놓치는 위험을 최소화하는 식으로 금융서비스 특성에 따라 판단 기준을 달리해야 한다고 제안했다.

도 부위원장은 "AI 등 혁신적인 기술의 활용 과정에서 투명성·공정을 확보하고 다수의 금융회사가 유사한 알고리즘을 활용함에 따라 발생할 수 있는 쏠림 현상에 대해 상세하게 점검하겠다"고 밝혔다.

아울러 금융당국은 한시조직으로 출범했던 금융사와 빅테크의 공식 협의기구 디지털금융 협의회를 상시조직으로 전환 운영한다고 밝혔다.

또 앞으로는 주제별로 4개 분과로 나눠 회의를 진행한다는 방침이다. 디지털과 보안 관련 전문가를 확충하고 분과별 5~6명 인원으로 구성한다. 분과회의는 분기별 1회 이상 열고 전체회의는 반기별 1회 이상 개최하기로 했다.