[디지털투데이 강진규 기자] 금융회사들이 인공지능(AI) 기반 금융 서비스를 확대하고 있는 가운데 각종 역기능을 우려하는 목소리도 커지고 있다.  

18일 금융권에 따르면 국회입법조사처는 최근 금융분야 AI 가이드라인 도입과 관련된 분석 보고서를 내놨다.

금융권에 AI 적용이 확산되면서 금융위원회는 올해 7월 금융분야 AI 가이드라인을 발표했다. 금융당국은 가이드라인을 금융권에 전면 적용하는 방안을 추진 중이다. 이 가이드라인은 금융회사가 AI 도입 시 선제적으로 위험관리 체계를 구축하도록 하고 AI 설계 시 감독, 통제가 가능하도록 하는 방안을 요구하고 있다. 가이드라인은 금융권의 AI 도입 시 부작용을 예방하는데 초점이 맞춰져 있다.

입법조사처는 금융당국이 가이드라인을 만든 것 자체에 대해 의미가 있다고 평가하면서도 다른 부처들의 AI 가이드라인과 정합성을 고려해야 한다고 지적했다.

입법조사처는 과학기술정보통신부가 주관하고 있는 AI 윤리 정책 등과 금융당국의 AI 가이드라인의 연계 논의도 필요하다고 밝혔다.

금융당국이 독자적으로 AI 가이드라인을 시행하는 것이 아니라 AI 유관기관들, 전문가 등과 지속적인 논의가 필요하다는 것이다. AI 분야 전문가들에 따르면 AI 윤리와 역기능 방지 방안을 국내는 물론 전 세계적으로 활발히 연구, 논의되고 있다. 이에 금융당국이 단발성으로 AI 가이드라인을 운영할 것이 아니라 이를 지속적으로 보완해야 할 것으로 보인다. 

또 입법조사처는 금융권에 화두가 되고 있는 금융소비자 보호 문제도 금융 분야 AI 적용 시 고려돼야 한다고 지적했다.

KDB산업은행 산하 KDB미래전략연구소도 최근 금융 분야 AI 활용과 관련된 보고서를 선보였다. KDB미래전략연구소는 AI로 인한 차별 발생 등을 경계해야 한다고 밝혔다.

연구소는 최근 AI 기술의 안전성에 대한 사회적 신뢰가 충분하지 못한 문제 인식을 바탕으로 AI 의사결정의 편향성 등을 염두에 둔 데이터 품질의 지속적인 관리 및 개선이 필요하다고 설명했다.

연구소는 2019년 애플이 발급한 카드가 동일 신용도에도 불구하고 남성의 신용카드 한도를 여성 대비 10배 이상 높게 설정했다는 논란이 제기된 사례를 제시했다. 또 2021년 AI 챗봇 이루다가 여성, 장애인, 동성 등에 대한 차별, 혐오발언을 생산한 사례도 지적했다.

AI는 데이터 학습을 통해서 작동하는데 데이터에 차별적인 요소가 들어있을 경우 AI에 문제가 생길 수 있다. 예를 들어 1950~60년대 미국에서 범죄자들의 사진 데이터로 AI를 학습시켰는데 당시에는 인종차별이 만연했고 흑인들의 사진이 많았다. 이로 인해 AI가 흑인들을 범죄자로 인식하는 편견이 작용한 사례가 있다.

금융분야에서도 AI를 학습시키는 기초 데이터가 왜곡돼 있을 경우 문제가 발생할 가능성이 있다는 지적이다.

이처럼 금융분야에 AI 적용에 대한 우려가 나오는 것은 그만큼 AI를 활용하는 금융회사들이 늘고 있기 때문이다.

지난 9월 28일 신한은행은 인공지능 은행원(AI Banker) 등 디지털과 AI 기술을 활용한 무인형 점포 ‘디지털라운지’를 2곳에 개소했다. 신한은행은 디지털라운지에 인공지능 은행원을 대고객 서비스에 적용했다. 실제 영업점 직원을 모델로 구현한 인공지능 은행원이 영상합성과 음성인식 기술을 적용한 가상 직원으로 디지털 기기를 통해 인사 후 고객이 원하는 업무를 안내한다.

앞서 올해 3월 KB국민은행은 여의도점에 체험존을 마련하고 AI 은행원을 시범 적용한 바 있다.

우리은행은 올해 8월 AI를 활용해 글로벌 금융시장의 주요 지표 예측 및 투자전략 수립과 상품을 관리하는 ‘AI시장예측시스템(Deep Sensing)’을 오픈했다. 이 시스템은 AI가 과거에 누적된 각종 시장, 경제지표를 분석해 미래 시장을 예측하고 각종 금융상품을 분석해 마켓 트렌드에 최적화된 상품을 추천하는 등 고객에게 맞춤형 투자전략을 제안한다.

하나은행은 7월 AI를 활용해 대출한도를 산출하는 AI 대출을 출시했다. AI 대출은 하나은행과 하나금융융합기술원이 공동 개발한 대출한도모형에 데이터를 스스로 학습하는 머신러닝을 적용하여 대출한도를 산출한다.

은행들 뿐 아니라 증권투자사, 보험사 등에서도 AI를 활용하기 위한 연구, 개발이 지속되고 있다. AI 기반 투자 서비스인 로보어드바이저와 AI 챗봇 상담 서비스는 다수의 금융회사들이 적용하고 있다.

한 금융권 관계자는 “금융분야에 AI 적용은 더 늘어날 것으로 보인다”면서도 “그러나 AI를 적용해 본 후 내부에서도 AI가 왜 이런 결과를 내놨는지에 대한 의문을 제기하는 경우가 있다. 설명 가능한 AI 등 지속적인 보완이 필요할 것으로 보인다”고 말했다.

영상=디지털투데이 디퍼뉴스 데일리픽