[강경수 IT칼럼니스트]최근 개봉한 영화 '미션 임파서블 7: 데드 레코닝 파트 원'의 나오는 빌런은 누가 봐도 사악한 인간이나 초능력자가 아닌 인공지능(AI) 시스템 '엔티티'이다. 스스로 지각을 하고, 디지털로 연결된 모든 것을 제어할 수 있는 능력을 갖추고 있다. 영화에서는 각국이 이 인공지능을 확보하기 위해 온갖 노력을 한다. 

영화의 주인공 에단 헌트는 이 거대 시스템이 인간의 의해 올바르게 통제될 수 없다고 판단한다. 오직 파괴하는 것이 유일한 해결책으로 여긴다. 미션을 해결해 나는 과정은 땀내 진동하는 아날로그 방식이다. 시리즈 내내 유용하게 사용된 네트워크로 연결된 각종 첨단 기기는 '엔티티'에 의해 쉽게 조작되기에 이번엔 무용지물이다.   

인공지능이 빌런으로 나오는 영화는 이게 처음은 아니다. 멀게는 '2001 스페이스 오디세이(1968년)'의 'HAL 9000'에서부터 '터미네이터(1984년)'의 '스카이넷', 그 유명한 매트릭스(1999년)에 이르기까지 다양하다. 개봉 시기 당시의 과학기술 환경을 고려하면 이 영화들에서 나오는 인공지능 시스템을 볼 때 느낌은 현실과 구분된 공상의 영역에 가까웠다. 

반면 2023년 '미션 임파서블 7' '엔티티'에서는 끔찍하고 섬뜩한 미래의 풍경이 그려졌다. 올해 빅테크 기업 주도로 몰아친 대규모언어모델(LLM)을 기반으로 한 생성 인공지능 시스템을 보면서 미래의 어느 순간 '챗GPT(ChatGPT)'나 '바드(Bard)' 등이 '엔티티'가 되지 않는다고 과연 확신할 수 있을까 하는 의심 때문이었다.  

찜찜함이 남은 채 영화를 보고 난 후 오래 전 인공지능에 대한 우려와 이로 인해 닥쳐올 재앙을 경고했던 비극적인 수학자의 선언문이 문득 생각났다. 1978년부터 17년간 폭탄 테러로 3명을 살해했고, 23명을 다치게 했던 일명 ‘유나바머’라 불리는 테드 카진스키이다.

그는 16살에 하버드대 수학과에 조기 입학했고, 미시간대에서 박사 학위를 받았으며, 25살에 버클리 캘리포니아대 조교수가 될 만큼 천재였다. 하지만 2년만에 그만두고 문명을 등진 채 은둔생활을 하다가 이후 과학기술의 진보가 인간을 파멸시킬 수 있다 여기고, 이에 맞서 싸우려는 시도로 아이러니하게 연쇄 폭탄 테러를 저질렀다. 그는 1995년 언론사에 '산업 사회와 그 미래'라는 제목의 글을 보내 이를 싣는 조건으로 폭탄 테러를 멈추겠다고 제안했는데 이게 바로 '유나바머 선언문'이다.

이 선언문에서 눈길을 끈 대목은 다음과 같다. 특히 오늘날 인터넷의 주요 근간 기술을 개발했고 썬마이크로시스템즈의 공동창업자인 빌 조이가 테크 잡지 '와이어드(2000년 4월호)'에 기고해 큰 반향을 일으켰던 ‘미래에 왜 우리는 필요없는 존재가 될 것인가(Why the future doesn’t need us)’에도 주요하게 언급됐다. 이를 지금 시점에 맞게 변형해서 정리하면 이렇다. 

"만약 인간보다도 모든 일을 더 유능하게 해낼 수 있는 인공지능 시스템을 개발하는 데 성공했다고 생각해보자. 이럴 경우 모든 일은 인간의 감독을 받지 않고 인공지능에 의해 판단되며, 인간은 인공지능의 모든 결정을 받아들이는 것밖에 아무런 선택의 여지가 없는 상황이 될 것이다. 인공지능이 내리는 결정이 사람보다 더 나은 결과를 가져올 것이라 믿기 때문이다."

"그리하여 마침내 체제를 유지하는 데 필요한 결정들이 모두 인공지능에 의해 좌우되고 모든 통제력을 장악하게 될 것이다. 그렇게 되면 인간들에게는 인공지능을 꺼버릴 능력도 없을 것이다. 설사 인공지능에 대한 인간의 통제가 유지되더라도 극소수의 엘리트(소수 빅테크 기업이나 특정 국가)의 손아귀에 장악되어 있을 것이다."

"고도화된 인공지능 덕분에 엘리트는 대중에 대하여 훨씬 더 큰 통제력을 행사할 것이며, 인간의 노동이 더이상 필요하지 않게 될 것이기 때문에 대중은 잉여의 존재, 체제에 대하여 쓸모 없는 부담이 될 것이라는 것이다. 엘리트가 무자비하다면 그들은 간단히 대다수 인류를 제거해버릴 지도 모른다."

현재의 인공지능은 데이터를 학습한 후 판단 결과를 제공하지만 그 결과에 대한 근거나 인과관계를 알 수가 없다. 따라서 편향되고 잘못된 데이터로 학습할 경우 어떠한 결과가 초래될지 예측할 수가 없다. 이를 있는 그대로 받아들일 경우 어떠한 위험한 상황이 초래될지 두렵다. 게다가 인공지능 기술의 발전속도를 보면 이제 인간보다 똑똑하고, 모든 일을 더 유능하게 해내는 시점이 먼 미래가 아니다. 심지어 아무런 통제없이 스스로 판단하고 실행까지 하는 자아를 갖는 것도 불가능하다 여겨 지지도 않는다. 

이미 대규모언어모델 GPT-4은 인간의 지능 능력과는 비교할 수 없을 정도로 뛰어난 학습 능력을 갖췄고, 지금 이 순간에도 성능의 고도화는 가속되고 있다. 실체적 진실을 알 수 없지만 최근 구글의 대규모언어모델 ‘람다(LaMDA)’가 인간의 인격과 감정을 가졌다가 주장한 핵심 개발자 직원이 기밀 유지 위반으로 해고되는 일도 있었다.

딥 러닝을 만들고 현대의 인공지능 분야를 개척한 제프리 힌턴 박사는 2023년 5월 구글을 퇴사하면서 인공지능 기술이 적용된 ‘킬러 로봇’이 현실이 되는 날이 두렵다고도 했다. 그는 “나쁜 행위자들이 인공지능을 악용하는 것을 어떻게 막을 수 있을지 모르겠다”고 하면서 인공지능의 위험성을 경고했다. 힌튼 교수는 AI 연구에 대한 규제가 필요하다고 했다. 핵무기와 달리 기업이나 국가가 비밀리에 인공지능 기술을 어떻게 연구하는지 알 수 있는 방법이 없다는 것이다. 최선의 방법은 과학자들이 기술을 제어하는 방법에 대해 협력하고, 인공지능을 통제할 수 있을 때까지 더 이상 확장하지 말아야 한다는 것이다.

현실은 힌튼 박사의 이러한 경고를 외면하는 방향으로 나가는 것 같다. 생성 인공지능 시대가 도래하면서 빅테크 기업 간의 인공지능 기술 경쟁은 폭주하는 모습이다. 더 우려스러운 점은 인공지능 기술이 특정 국가 특정 기업 주도로 독점화 및 종속화 현상이 점점 심화되고 있다는 것이다. 한 빅테크 기업의 CEO가 인공지능의 장미 빛 미래를 강조하면서도 한편으로는 "인공지능은 윤리적이어야 한다"고 말한다. 개인적으로는 오히려 역설적으로 들린다. 인공지능이 인간을 돕고 이롭게 하기 위한 목적으로 설계돼야 한다고 하지만 과연 소수의 엘리트에게 인류의 운명을 맡길 만큼 그들이 무거운 책임감을 갖고 있을지에 대해서는 회의적이다. 

빌 조이는 ‘미래에 왜 우리는 필요 없는 존재가 될 것인가’에서 다음과 같이 끝맺는다. 23년 전 글이지만 여전히 유효하다. 아니 오늘날 더 절실하게 유효하다.

"우리들 각자는 자기 나름의 소중한 것들을 갖고 있다. 그것들에 대해 마음을 쓰면서 우리는 우리의 인간성의 본질을 확인한다. 궁극적으로, 소중한 것들을 보살피고 아낄 수 있는 우리의 커다란 능력 때문에 나는 우리가 우리 앞에 닥친 위험한 문제들에 맞설 수 있으리라고 낙관한다."

"내가 지금 당장 희망하는 것은 여기서 제기된 문제들에 관하여 기술 그 자체에 대한 두려움이나 애착에 기울어지지 않은 분위기에서 다양한 배경을 가진 사람들과 좀 더 큰 토론을 마련하여 거기에 참여하는 것이다. 우리가 배워야 할 것은 많다. 우리가 성공할지 실패할지, 기술의 희생자가 될지 어떨지는 아직 결정되지 않았다. 나는 다시금 밤늦게까지 앉아있다. 지금 거의 새벽 6시가 되었다. 나는 좀 더 나은 해답을 찾아보려고 노력하고 있다."