[디지털투데이 강진규 기자] #국내 대형 은행에 다니는 직원 A씨는 챗GPT가 주목받고 있다는 기사를 읽고 직접 사용해보기로 했다. A씨는 챗GPT에 국내 5대 은행에 대한 설명을 해달라고 했다. 그런데 자신이 다니고 있는 은행이 빠진 결과를 보고 당황했다.

#금융회사 직원 B씨는 챗GPT가 얼마나 정확한지 확인해보기 위해 자신의 회사에 대한 설명을 요청했다. 그런데  챗GPT가 보여준 결과에는 다른 회사에 대한 설명이 잘못 들어가 있었다.

전 세계적으로 생성형 인공지능(AI) 챗봇 챗GPT에 관심이 높아지고 있는 가운데 국내 금융권 관계자들의 고민이 깊어지고 있다. 챗GPT에 대한 관심과 기대가 높지만 결과의 신뢰성에 대한 의문이 제기되고 있기 때문이다.

한 금융권 관계자는 “금융에서는 무엇보다 신뢰가 중요하다. 그런데 챗GPT가 보여주는 결과에는 오류가 너무 많다”며 “챗GPT를 사용하다보면 오류가 아니라 거짓말을 하고 있다는 생각까지 든다”며 챗GPT 사용에 대해 우려했다.

실제로 기자가 국내 금융 현황에 대해 챗GPT에 문의한 결과 여러 오류가 나타났다. 신한은행의 역사를 묻는 질문에 챗GPT는 신한은행의 뿌리가 조선후기 한성은행으로 1897년 출범했다고 설명했다. 이는 2006년 신한은행과 합병한 조흥은행에 대한 설명으로 맞는 내용이다.

그런데 챗GPT는 한성은행이 1911년 하나은행으로 사명을 변경했으며 1971년 하나은행이 신한은행과 합병해 신한은행이 됐다는 엉뚱한 답변을 내놨다.

우리은행의 역사를 묻는 질문에도 챗GPT는 엉뚱한 답변을 했다. 우리은행의 시작이 1899년 대한천일은행인데 1981년에는 종합금융회사가 되겠다는 의지를 담아 우리은행으로 명칭을 변경했다고 설명했다. 하지만 우리은행이 명칭을 변경한 것은 2002년이다.

또 챗GPT는 금융위원회에 대해 1998년 설립됐으며 기획재정부 소관으로 운영된다고 설명했다. 금융위는 2008년 설립됐으며 기획재정부와는 독립된 기관이다.

KB금융그룹의 역대 회장을 설명해달라는 질문에는 초대 강정원, 2대 임영록, 3대 허인, 4대 윤종규 회장이라고 답했다. 

하지만 KB금융그룹의 역대 회장은 초대 황영기, 2대 강정원, 3대 어윤대, 4대 임영록, 5대 윤종규다. 황영기, 어윤대 전 회장을 빼고 소개했으며 허인 KB국민은행장을 회장으로 잘못 표시한 것이다.

이미 이같은 문제는 금융권 전문가들이 이미 제기한바 있다. 올해 4월 하나금융경영연구소는 ‘챗GPT로 다가온 생성형 AI의 명암’을 통해 신뢰성 문제를 우려했다. 

보고서는 “GPT와 같은 생성형 AI 활용에 있어서 신뢰성 이슈가 지속될 수 있다”며 “훈련된 정보나 지식이 부족하거나 부정확할 경우 그럴 듯하지만 오류가 많거나 무의미한 답변을 하는 ‘할루시네이션(hallucination)’ 현상이 발생한다”고 지적했다.

할루시네이션은 영어로 환각, 환청을 뜻하는 단어다. AI 언어 모델에서 할루시네이션은 주어진 데이터 또는 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것을 뜻한다.

금융권은 어느 분야보다 신뢰성, 정확성을 중시하기 때문에 챗GPT가 보여주는 잘못된 결과를 우려하고 있다. 챗GPT를 활용한 보고서, 저작물들에 금융권에 대한 잘못된 정보가 녹아들어갈 수 있다는 것이다. 또 학생, 청년들이 챗GPT를 활용하면서 금융권에 대한 잘못된 정보를 인식할 가능성도 있다.

더 큰 문제는 이를 수정할 방법이 없다는 것이다. 금융권 관계자는 “뉴스나 인터넷 게시물에 잘못된 정보가 있으면 수정할 수 있다”며 “반면 챗GPT는 수정을 요구하기도 어렵고 매번 결과도 다르기 때문에 잘못된 정보를 확인하는 것도 어렵다”고 말했다. 

챗GPT의 학습 기능을 통해 잘못된 정보를 바로잡을 수 있지만 모든 내용을 바로잡을 수 있을지는 미지수다. 또 반대로 잘못된 정보가 학습될 가능성도 있다.

금융권은 챗GPT이 가져올 변화에 주목하고 어떻게 대응할지 고민하면서도 새로운 문제가 발생할 가능성도 살펴보고 있다.