[디지털투데이 이재구 기자] 한 건의 방위산업 계약이 구글직원들의 거센 반발을 일으키며 거대 IT공룡을 분열시키고 있다. 한 구글 과학자가 내부 이메일을 통해 구글의 미국 국방부 메이븐 프로젝트(Project Maven) 참여가 비평가들의 먹잇감이 될 것이라고 경고하면서다. 그리고 실제로 그런 일이 벌어지고 있다. 수천명의 구글직원들이 프로젝트에 거세게 반발하는가 하면 사퇴하는 직원까지 생기면서 구글을 분열시키고 있다. 이 작지만 만만찮은 후폭풍을 몰고올 프로젝트는 인공지능(AI)과 얼굴인식을 통해 사람을 살상하는 전쟁수행에 관련된 사업, 즉 미국방부가 IS(이슬람국가)와 전쟁에 사용하는 인명살상 관련 프로젝트였다.

뉴욕타임스의 30일(현지시각)보도에 따르면 페이페이리라는 구글의 고위 인공지능(AI)과학자가 구글의 미국방부 드론 프로젝트 참여에 대한 구글 내외부적 거센 반발을 예견한 메시지를 내외부에 내놓았었지만 실행되지 않았고 순다 피차이 구글 최고경영자(CEO)는 뒤늦게 사태를 수습해야 했
다.  그녀는 앞서 이메일을 통해 구글이 군사용 AI계약을 체결하면 회사가 통제할 수 없는 논란을 불러 일으킬 것이라고 경고했다.

메이븐 프로젝트가 뭐길래?

격분한 구글직원은 게시판에 메시지를 쏟아냈고 분열된 모임에 참여하는가 하면 메이븐 프로젝트 반대 스티커도 만들었다. 일부는 프로젝트에 반발해 사표를 냈다. 학계에서는 구글에 이 프로젝트를 철회하라고 요청하고 있다.

구글은 군사목적으로 사용되는 인공지능(AI)사용에 대한 원칙목록을 만들 계획이다. 뉴욕타임즈에 보도된 이메일 내용은 구글이 미국방부의 메이븐프로젝트의 일부 계약을 따낸후 내외부적으로 구글에 몰아친 반발에 대해 자세히 설명하고 있다.

미국방부의 메이븐프로그램은 드론과 AI를 결합해 동영상 이미지를 해석하는 내용이다.

미국방부는 기계학습(머신러닝)이 날로 증가하는 적군과 경쟁자들에 비해 우위를 유지하는데 있어 아주 중요했다고 말했다. 하지만 비판자들은 구글이 이에 참여하는 것은 IS와의 전쟁에서 드론 미사일 타격시 공격의 정확성을 향상시키는 데 도움을 주게 되는 것이라고 말한다.

구글 고위 AI 과학자의 경고

구글 클라우드의 AI담당 수석 과학자 페이페이 리는 지난 해 9월 메이븐 프로젝트에서 구글의 역할을 공식화할 것인지에 대해 교환한 이메일에서 자신의 경고를 내놓았다.

그는 구글의 방산 및 정보 판매 담당 책임자 스콧 프로먼에 보낸 메시지에서 “AI와 관련된 어떤 비용에 대한 언급이나 암시도 피하세요. 무기화​​된 AI는 AI가운데 가장 심각하지는 않더라도 가장 민감한 주제 가운데 하나일 것입니다. 이는 구글을 손상시키려고 모든 방법을 찾고 있는 미디어에 좋은 먹잇감입니다”라고 썼다.

리는 뉴욕타임스에 대한 성명서에서 자신의 이메일 내용을 더욱더 강조했다. 그는 “나는 인간중심의 AI가 사람들에게 긍정적이고 혜택을 주는 방식으로 기여할 것으로 믿습니다. AI를 무기화하는 어떤 프로젝트에라도 참여해 일하는 것은 내 원칙에 크게 위배됩니다”고 말했다.

그의 발언은 결과적으로 놀랍게도 예언적인 것으로 밝혀졌다. 구글이 메이븐 프로젝트에 참여하면서 직원들의 강한 반감을 불러 일으켰고 많은 사람들이 회사의 '사악해지지 말자'라는 모토를 지적했다.

구글경영진에 대한 항의와 사퇴 이어져...구글 뒤늦게 수습나서

기즈모도에 따르면 약 4000명의 구글직원이 순다 피차이 최고경영자(CEO)에게 미국방부와의 계약을 종료할 것을 촉구하는 서한에 서명했다. 약 12​​명의 직원이 계약에 항의해 사표를 냈다.

200명이 넘는 학계 관계자와 연구원들이 이 계약을 철회하라고 구글에 요구했다.

뉴욕타임스는 메이븐프로젝트가 직원들을 분열시켜 결국 여러 내부미팅을 이끌어 냈으며 전세계 구글 직원들은 여기서 구글 수석 매니저들로부터 설명을 들었다고 보도했다. 내부 메시지판은 이 계약건에 대한 언급으로 홍수를 이루고 있다.

국방부와의 계약에 항의해 회사를 떠나는 한 엔지니어는 회의실의 이름을 클라라 임머바르의 이름으로 바꿔달라고 청원했다. 클라라 임머바르는 1915년 제1차세계대전 때 남편 프리츠 하버가 전쟁에 염소 독가스를 사용한데 항의해 자살했다.

뉴욕타임스에 따르면 “옳은 일을 하라(Do Right Thing)‘이라는 스티커가 구글 뉴욕사무실에도 나타났다.

구글에서 오랫동안 일한 한 직원은 “최근 기업을 더듬어보면 구글을 그 어떤 것보다도 대혼란으로 몰아넣고 있다”고 말했다.

반발이 거세지자 구글은 군사용 AI에 대한 원칙에 대응하려 하고 있다.

뉴욕타임스에 따르면 피차이 구글 CEO는 지난 목요일 전 직원이 모인자리에서 AI를 군사적수단으로 사용하는데 따른 원칙 리스트를 만들어 대응할 계획이라고 말했다. 구글은 이것이 무기에 AI를 사용하는 것을 멈추게 할 것이라고 말했다.

뉴욕타임스는 이와 별개로 다이앤 그린 구글 클라우드 담당 CEO가 직원들에게 “메이븐 프로젝트 참여는 치명적(살인) 목적이 아니며 이 계약금액은 900만달러(한화 약 97억원)에 불과하다고 직원들을 안심시켰다”고 전했다.

전쟁에서 한걸음 더 나아가 시민대상 프로젝트 시작한 美국방부

하지만 드론과 얼굴인식 AI기술 결합이 단순히 전쟁에서만 사용될 뿐일까?

절대 그렇지 않다는 것이 드러나고 있다. 당장 도시민들은 자신들의 일거수 일투족을 감시받는 상황에 몰리게 될 것이 뻔하다. 드론과 얼굴인식 AI를 통해서다.

지난 10일 미고등국방연구소(DARPA)는 자율감독방식도시정찰(URSA)프로그램을 발표했다. 이는 도시에 드론을 날려 정찰, 감시 및 표적 획득문제를 자율적으로 해결하는 것이다.

URSA프로그램의 주된 목적은 드론, 센서 기술, 첨단 기계학습 알고리즘을 혼합해 복잡한 도시 환경에서 신속히 도시내 사람들의 적대감을 식별하고 위협을 제거하는 향상된 기술을 구현하는 가능성과 효과를 평가하는 것으로 요약된다.

다시 말하면 미국방부는 드론과 다른 로봇에 탑재된 첨단 카메라프로그램을 개발하고 있다. 이는 머신러닝 컴퓨터를 통해 도시전체를 모니터링하면서 민간인과 테러리스트를 식별하고 차별화하게 된다. URSA프로그램은 36개월간 2단계에 걸쳐 이뤄진다.

DARPA는 URSA개입이 어떤 것인지에 대해 다음과 같은 간단한 시나리오를 제공했다.

“해외 군사시설 근처에 위치한 정적 센서는 개개인이 도시 교차로를 지나 일반보행통로를 벗어나서 걷는 것을 감지한다. 스피커를 장착한 무인드론이 경고메시지를 발령한다. 그러면 이사람은 이웃건물로 달려가는 것이 관찰된다. 이후 URSA는 한 개인이 건물 반대쪽 끝의 다른 문에서 나오는 사람을 감지하지만 동일인물이라는 것을 확인하고 이를 조사하기 위해 다른 UAS를 보낸다. 이 두 번째 드론은 개인이 제한 구역을 향해 이동을 재개했다고 판단한다. 드론은 이 사람이 확실하게 두 번째 메시지를 받도록 안전한 거리에서 치명적이지 않은 플래시총을 발사한다. 두번째 드론은 피사체 비디오를 촬영하고 세 번째 UAS가 사람 앞으로 직접 날아가 눈을 상하지 않게 하는 레이저로 그의 눈을 비춰도 그의 걸음걸이와 방향이 바뀌지 않았다는 것을 판단한다. URSA는 인간 감시자에게 경고하고 이러한 관찰, 경고 조치 및 이사람의 반응과 현재 위치에 대해 요약해 제공한다.”

페이페이 리, ‘사악해지지 말자’는 구글에 어퍼컷

한편 페이페이 리는 지난 3월 7일자 뉴욕타임스 오피니언 면에 기고한 ‘어떻게 사람에게 좋은 AI를 만들까(How to Make A.I. That’s Good for People)’라는 글에서 우리사회의 A.I에 대한 열정이 걱정된다며 우리사회가 미래사회에 대한 기분 나쁜 영향에 대해 생각하는 것을 막고 있다며 걱정스럽다고 언급했다.

페이페이 리는 인공(Artificial)이라는 이름에도 불구하고 이 기술에서 ‘인공적인’ 것은 아무것도 없다고 지적했다. AI는 인간에 의해 인간처람 만들어지며 인간처럼 행동하고 인간에 영향을 미치도록 의도됐다고 설파했다. 그는 따라서 내일의 세계에서 AI가 긍정적인 역할을 하길 원한다면 그것은 인간의 관심에 의해 인도돼야 한다고 주장했다. 그는 어떤 기술도 A.I 보다 이를 만든사람을 잘 반영하는 기술은 없다고 주장했다. 그는 실제로 ’기계‘는 전혀 가치가 없다는 말이 있는데 이는 사실이며 사실 기계의 가치는 인간의 가치라고 말했다.

이어 인간중심적 AI접근방식은 이들 기계가 우리의 경쟁자가 될 필요가 없으며 우리의 웰빙을 보장하는 파트너가 되어야 한다고 말했다.

그는 이 글에서 우리의 기술이 얼마나 자율적이 되든 간에 그것이 전세계에 가져올 충격은 좋든 나쁘든 간 항상 우리의 책임이라고 결론 내리고 있다.