[강경수 IT칼럼니스트]영화 스파이더맨(샘 레이미 감독, 2002년 작)의 명대사이자 캐릭터의 상징이다. 소심하고 나약했던 고등학생 피터 파커는 우연한 계기로 큰 힘을 얻지만 이를 제대로 활용하지 못했다. 이를 걱정했던 삼촌 벤 파커가 그에게 한 충고이다. 이후 의도하지 않은 상황이 벌어지고, 삼촌은 무장 강도에 의해 살해당한다. 그제야 그는 삼촌 말의 의미를 알게 된다. 진정한 히어로로 성장하는 데 결정적인 계기가 됐다. 자신의 큰 힘을 보편적 가치와 더 큰 공공선을 위해 사용해야 하는 윤리적 의무이기도 하다. 

장면 하나. 지난 1월 31일, 미국 상원 법사위원회에서 '빅테크와 온라인 아동 성착취 위기' 청문회가 열렸다. 온라인 아동 성착취물 신고가 사상 최고치를 기록하는 상황이었다. 소셜미디어로 인한 자녀의 성범죄, 마약, 자살 등 피해 사례와 증언이 봇물 터졌다. 페이스북, 인스타그램의 모기업 메타 CEO 마크 저커버그는 청문회에 출석해 “여러분이 겪은 모든 일에 대해 죄송합니다”라며 고개를 숙였고, 이 문제를 해결하기 위해 계속 노력하고 있다고 밝혔다. 

법사위 위원들은 소셜미디어 빅테크가 청소년의 안전보다 이익을 우선시한다고 비판했다. 조쉬 하울리 상원의원은 "당신의 임무는 회사가 한 일에 대해 책임지는 것"이라며. "여기 뒤에 앉아있는 사람들로 수십억 달러를 벌었지만, 그들을 돕거나 보상하기 위해 아무것도 하지 않았다”고 말했다. 피해자 가족도 기업이 충분한 노력을 기울이지 않는다고 했다.

(청문회 당시 보도된 뉴욕타임스에 따르면) 2021년 가을, 메타의 고위 관계자들은 90페이지 분량의 내부 이메일을 통해 아동의 복지와 안전에 집중하기 위해 수십 명의 엔지니어와 직원을 추가하는 방안을 논의했다. 하지만 45명의 신규 채용안은 거절됐다. 이 문서는 청문회 몇 시간 전 공개됐다. 메타는 안전과 보안 문제를 해결하기 위해 약 40,000명의 직원이 근무하고 있으며, 2016년부터 200억 달러 이상을 투자했다고 증언했다.

미국에서 1996년 제정된 '통신품위법 230조'는 플랫폼 사업자가 콘텐츠 내용에 대해 책임지지 않는다는 면책 특권이 있다. 이를 근거로 소셜미디어 기업은 막대한 수익을 창출하면서 빅테크로 성장했다. 부작용에 대해선 어떠한 책임도 없다. 규제를 위한 법 제정도 논란이 생길 때마다 구호만 요란할 뿐 통과되지 않았다. 

장면 둘. 다양한 생성 AI가 등장하면서 가짜 사진과 영상 등 딥페이크 콘텐츠로 인한 피해가 빠르게 늘고 있다. 올해 초 팝스타 테일러 스위프트의 얼굴을 합성한 음란 사진이 소셜미디어 엑스(구 트위터)를 통해 확산했다. 넷플릭스 시리즈 ‘웬즈데이’의 주인공 배우 제나 오르테가가 옷을 벗은 채로 등장하는 생성 AI 광고가 메타의 소셜미디어에 게재됐다. 국내서도 유명 배우 조인성, 송혜교 얼굴과 음성을 딥페이크로 만들어 투자를 권유하는 사기 범죄가 발생했다.

소셜미디어를 통해 딥페이크와 같은 악의적인 콘텐츠가 확산하고 있지만, 이를 신속하고 대규모로 식별할 수 있는 인프라는 여전히 부족하다. 엑스는 며칠 동안 '테일러 스위프트'라는 검색어만 금지했을 뿐이다. 팬들은 한동안 이를 방치한 엑스에 분노를 표출했다.

딥페이크는 유명인뿐만 아니라 학교 등 일반인을 대상으로 곳곳에 침투하고 있다. AI, 알고리즘, 자동화 사고 및 논쟁 공공 데이터베이스(AIAAIC, www.aiaaic.org)를 살펴보면 혐오와 편견, 차별이 가득한 딥페이크, 가짜 뉴스 등 수많은 AI의 악용 사례를 확인할 수 있다. 2012년 10건에서 2021년 260건으로 26배 증가했다. 다른 조사에 따르면 2022~2023년 사이에 딥페이크 탐지는 10배 증가했다. 최근 베벌리힐스의 중학교와 시애틀 교외의 고등학교에서 학생의 가짜 누드 사진이 유포됐다. 플로리다 중학생은 동급생 남녀의 나체 이미지를 동의 없이 생성 AI로 만들어 공유한 혐의로 체포됐다.

대부분 빅테크는 성적이고 해로운 딥페이크 콘텐츠를 생성하고 유통되는 것을 차단하기 위해 노력한다고 주장한다. 그럼에도 끊임없이 계속 만들어져 유포된다. 특히 미성년자, 여성, 소외된 사람 등 사회적 약자를 주로 대상으로 한다. 전염병처럼 빠르게 확산하는 악의적인 딥페이크를 해결하기 위해 당국의 규제에 앞서 빅테크는 실효적인 조치를 해야 하지만 현실은 그렇지 못하다. 

마이크로소프트의 한 AI 엔지니어는 자사의 이미지 AI 도구가 사회에 위험을 초래할 수 있는 폭력적이고 성적인 이미지를 생성할 수 있다고 밝혔다. 그는 회사에 안전장치를 마련할 때까지 공개적으로 사용하지 말 것을 촉구했다. 또한 연방거래위원회(FTC)가 빅테크와 협력해 AI를 더 안전하게 만들고, 위험성에 대해 투명하게 공개해야 한다고 주장했다. 실제로 테일러 스위프트의 경우 가해자가 딥페이크 이미지를 생성하기 위해 오픈AI의 달리3(DALL-E 3) 기반의 마이크로소프트 디자이너를 사용했다고 알려졌다.

큰 힘을 가진 빅테크는 논란이 생길 때마다 항상 적절한 조치를 한다고 강조하지만, 실제로는 자사의 서비스의 위험성에 대한 대처에 적극적이지 않아 보인다. 세계에서 가장 유명한 여성 중 한 명을 보호하지 못하는데 과연 누구를 보호할 수 있을까? 테일러 스위프트에게 일어난 일이 일반인에게 발생하면 실효적인 지원을 받지 못할 가능성이 높다. 서비스를 제공하는 기업의 시스템이 위기 상황에서 빠르게 대처하지 못하거나, 피해자를 보호하지 못하고 사용자 요구에 적절하게 대응할 수 없다면 큰 문제이다.

영국 노섬브리아 대학교 디지털 시민 센터의 캐롤리나 아레 박사는 “소셜미디어 플랫폼은 콘텐츠 관리 방식을 전면적으로 개편하고, 계정 신고에 관한 결정에 대해 개별 사용자에게 투명하게 공개해야 한다”라며, “악용 사례와 관련해 대면 지원까지는 아니더라도 최소한 직접적인 소통을 포함하는 개인화되고 상황에 맞는 신속한 대응이 필요하다”라고 강조했다.

유언과 같았던 삼촌의 말에 각성한 스파이더맨은 큰 힘을 갖게 된 자기 행동이 다른 사람에게 어떤 영향을 미치는지 고려하고, 그 힘을 책임감 있게 사용해야 한다고 다짐한다. 많은 것을 가진 사람은 사회에 대한 더 큰 책임이 있으며, 자신이 가진 것을 사회의 이익을 위해 사용해야 한다는 것이다. 그는 “앞으로 내 삶이 어떻게 흘러가든, 이 말은 절대 잊지 않을 것이다”라고 했다.

올해도 빅테크는 AI를 비롯해 자사의 기술과 서비스를 고도화하는데 막대한 투자를 하고 있다. 이와 비교해 청소년 보호와 성적이고 폭력적인 딥페이크가 제작되고 유포되는 것을 막기 위한 투자는 얼마나 될까? 각 기업의 선의에 의지할 수 없다면 적합한 규제를 마련해야 한다. 기술이 악의적인 도구로 전락하게 내버려두면 안 된다. 자칫하면 기술 혁신이 점점 더 경멸과 혐오가 가득한 시대로 이끌 수 있다. 앞으로 더 많은 기업이 AI를 비롯한 다양한 혁신 기술을 사용할 것이기에 항상 존재하고 진화하는 위험을 지속해서 관리해야 한다. 

앞으로 인류에게 다가올 모든 첨단 기술은 인간의 권리와 존엄성, 사회의 공공선, 기술의 합목적성 등을 존중하고 보장하는 것을 목표로 해야 한다. 기술이 일으킬 수 있는 편향, 차별, 침해, 위험, 부작용 등에 항상 대응하고 예방해야 한다.  

인간의 존엄성은 신체와 이성이 있는 생명체로서 가지는 불가침의 가치이다. 사회의 공공선은 가능한 한 많은 사람의 안녕과 행복을 의미한다. 기술의 합목적성은 기술이 인류의 삶에 필요한 도구라는 목적과 의도에 부합되게 개발과 활용되어야 한다는 원칙이다. 

미국의 정치 철학자 마이클 샌델은 정의를 위해 기술을 인간의 삶과 공동선에 이바지하는 방향으로 활용해야 한다고 주장했다. 기술이 인간성을 구현하고 사회적 공공성을 증진하는 방향으로 활용돼야 한다는 것이다. 다양한 관점과 이해관계를 고려하고, 공정하고 투명한 의사결정과 책임성이 필요하다. 

그는 대표 저서 ‘정의란 무엇인가”를 통해 다양한 도덕적 관점과 사회적 가치를 비판적으로 검토하고, 공동체의 합의를 도출하는 방법을 제시했다. 기술 혁신도 다양한 주체의 이익과 권리를 존중하고, 해당 기술의 활용과 결과에 대한 설명 가능성과 책임 소재를 명확히 해야 한다.

인터넷, 모바일, AI 등 지난 수십 년간 혁신적인 기술을 통해 소수의 기업가가 큰 부를 일궜다(지금, 이 순간에도 큰 수익을 벌어들인다). 그들이 갖게 된 큰 힘과 혜택은 그들만의 힘으로 이뤄지지 않았다. 수많은 사용자가 있었기에 가능한 것이다. 그들에게 다시 한번 강조하고 싶다. 

“큰 힘에는 큰 책임이 따른다.”