[디지털투데이 강진규 기자] 금융권에서 인공지능(AI) 활용이 늘어나고 업무 혁신에 대한 기대가 커지고 있지만 AI가 금융권에 리스크로 작용할 수 있다는 우려 역시 늘고 있다.

최근 금융연구원은 ‘생성형 AI가 가져올 금융리스크와 향후 대응 방향’ 보고서를 통해 국제기구 및 주요국 금융당국이 금융서비스에 대한 AI 활용이 금융시스템의 리스크가 될 수 있다고 평가하고 이에 대한 대응책을 마련할 계획이라고 소개했다.

금융연구원은 지난해 국제통화기금(IMF)이 보고서를 발표하고 금융 분야 AI 관련 리스크를 지적했다고 설명했다.

IMF는 금융기관이 고객의 개인정보와 기업 비밀, 입출금정보 등 기밀성을 요구하는 정보를 취급하면서 이런 정보를 생성형 AI에 연결할 경우 민감한 정보가 누설되거나 추측될 리스크가 있다고 우려했다.

또 학습하는 데이터가 편향되면 의사결정 판단에 문제가 생겨 금융배제나 사회적 신뢰 훼손으로 이어질 수 있고, AI가 사실과 다른 정보를 생성할 수 있으며 잘못된 정보가 고객의 의사결정이나 금융기관의 리스크 관리에 잘못된 판단을 초래할 수 있다고 경고했다.

아울러 생성형 AI를 악용해 금융범죄나 시세조정 등에 이용될 수 있으며 딥페이크로 인해 금융시장이 혼란에 빠질 수 있다고 지적했다. 생성형 AI가 널리 보급되고 이를 이용하는 금융기관들이 늘어날수록 프로세스가 자동화, 획일화 돼 금융시장의 순응성(procyclicality)을 증폭시킬 위험 역시 지적됐다.

AI가 금융회사 직원들의 역무 역량을 끌어올리고 고객 맞춤형 서비스를 제공할 수 있지만 반대로 데이터 유출의 경로가 되거나 금전 탈취 사이버공격에 약용될 수 있다는 것이다. 금융권에서는 AI 딥페이크로 보이스피싱 등 금융사기가 고도화되는 것을 우려하고 있다.

AI가 잘못된 결과를 금융회사, 소비자에게 제공할 경우 예상치 못한 손해가 발생하는 상황, AI를 통한 투자가 특정한 곳에 집중될 경우 투자 위험이 높아질 수도 있다.    

금융연구원은 해외에서는 이미 금융권 AI 리스크에 대한 대책이 논의되고 있다고 전했다. 미국 금융안정위원회(FSB)는 2024년 사업계획에서 AI의 금융안정성 영향을 검토해 관련 보고서를 11월 G20에서 발표할 계획이다. 

또 미국 금융안정감시위원회(FSOC)는 지난해 12월 발표한 연차보고서에서 금융기관과 금융당국에 대해 AI 이용 상황을 감시함과 동시에 새로운 리스크를 특정하기 위한 능력을 향상시킬 것을 권고했다. 유럽중앙은행(ECB)도 지난해 11월 발표한 금융안정보고서를 통해 AI에 대한 기대감 고조가 자산 거품으로 이어질 수 있다는 우려를 표명하며 AI 보급에 따른 금융리스크를 지적한 것으로 알려졌다.

국내 금융권에서도 AI 활용에 대한 우려가 계속 제기되고 있다. 지난해 7월 자본시장연구원은 '금융산업에서의 인공지능(AI) 활용 방안에 따른 리스크 요인 분석‘을 통해 AI 알고리즘의 대형화, 복잡화가 운영 방식의 불투명화를 수반해 금융 산업 내의 리스크 요인으로 작용할 수 있다고 지적했다. 자본시장연구원은 AI 기술이 금융 산업의 운영 효율 제고와 금융위기 확산이라는 양면성을 동시에 지니고 있다고 주장했다.

지난해 9월 금융연구원은 '인공지능(AI)에 대한 규제 현황과 금융부문에서의 과제' 보고서를 통해 AI가 금융서비스 부문의 전통적 비즈니스 모델을 변혁시킬 수 있는 가능성을 가지고 있지만 반면 AI가 기존의 리스크를 증폭시키고, 새로운 리스크를 발생시킬 가능성도 높다고 경고했다.

금융연구원은 한국 금융당국도 대응책을 마련해야 한다고 지적했다. 주요국 금융당국의 대응 등을 감안해 국내 금융기관의 AI 이용실태 및 관리체계를 파악하고 해외와의 정보 공유를 강화해 AI 관련 금융리스크를 특정하고 인식하는 것이 필요하다는 것이다. 또 데이터 보안과 딥페이크 등의 리스크에 대한 대응책도 마련해야 한다고 덧붙였다.

금융연구원은 금융회사들이 안심하고 AI를 활용할 수 있도록 금융당국이 AI 관련 리스크와 해결해야 할 과제 등에 관한 정보를 제공하고 AI 활용을 규제, 감독하는 등 대응 방향을 제시하는 것도 검토해야 한다고 주장했다.