[디지털투데이 최지연 기자] 엔씨소프트가 AI 기술의 발전으로 대두되는 사회적, 윤리적 문제 등 사회적 요구에 발맞춰 올바른 'AI 윤리' 정립에 나섰다. AI 윤리를 위한 기술, 도서 출간 등을 통해 AI 윤리 인식 확산에 기여하고 AI 윤리 가이드라인을 수립하는 등의 노력을 기울이고 있다.

엔씨(NC)는 ‘리니지W’, ‘리니지2M’ 등 주요 게임의 채팅에 ‘스팸 필터링 기술’을 적용해 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다. 채팅 시 AI 번역 엔진에서 국가 간의 분쟁 요소가 될 수 있는 표현을 식별하고 중립적인 표현으로 번역될 수 있도록 제어하는 기술이다.

또 AI가 욕설, 편견, 비하 등의 비윤리적인 표현을 학습하지 못하게 하거나 생성할 수 없도록 제어하는 기술을 비롯해 개인정보 비식별화, 국가간 비하 표현 방지, 비윤리•혐오 발화 인식 기술 등을 AI 연구개발에 적용하고 있다.

최근 윤송이 엔씨소프트 최고전략책임자(CSO)는 AI 윤리 인식 확산에 기여하고자 세계적 석학과 나눈 대담 시리즈 ‘AI 프레임워크(Framework)’ 콘텐츠를 엮어낸 도서 ‘가장 인간적인 미래’를 출간했다.

AI 프레임워크는 엔씨(NC) ESG 경영 핵심 가치 중 하나인 ‘디지털 책임–AI 윤리’를 위해 진행한 연중 기획 프로젝트다. 2021년 4월부터 1년간 공식 유튜브와 블로그를 통해 발행된 AI 대담 콘텐츠로, 170만회가 넘는 누적 조회 수를 기록했다. 하버드대학교, 스탠포드대학교, 매사추세츠공과대학(MIT) 등의 세계적 석학 5인이 참여했다.

엔씨(NC)는 외부와의 공동연구, 연구 후원 등의 활동에도 참여하고 있다. NC문화재단을 통해 2020년부터 MIT(NC Ethics of Technology Fund)와 스탠포드대학교(NC Fellows Fund) 등 AI 윤리 커리큘럼 개발을 후원하고 있다. 

ESG 리포트를 통해 AI 윤리 원칙이자 가이드라인인 ‘NC AI 윤리 프레임워크(NC AI 윤리 프레임워크)’를 공개하기도 했다. AI 기술이 인간 중심의 AI로 지속 성장할 수 있도록 ▲ Privacy(데이터 보호) ▲Unbiased(편향되지 않는) ▲Transparency(투명성) 등 세 가지 핵심가치로 선정해 AI 개발과 운영 전반에 반영하고 있다.

엔씨(NC)는 데이터를 활용하는 과정에서 사용자의 프라이버시나 개인정보를 원천적으로 보호한다. AI 학습에 필요한 데이터들은 남기고 개인정보는 비식별화 하는 정책과 처리 시스템을 구축해 적용하는 것이 핵심이다.

또 편향되지 않은 AI를 개발함으로써 AI에 기반한 서비스가 특정인에게 불리하게 작용하거나 소외시키지 않도록 하고 있다. ‘비윤리적 표현 데이터 사전’을 구축해 필터링하고, 무례한 발화를 제어하는 시스템을 적용 및 테스트하면서 여러 번 검증하는 체계를 갖추고 있다.

AI 기술의 투명성 공개에도 힘쓰고 있다. AI가 ‘이해할 수 없는 불안한 존재’라는 인식을 줄이고 AI의 의사 결정 과정과 결과에 대한 설명할 수 있어야 한다는 취지로 지난해 10개 이상의 AI 연구 논문과 오픈소스 코드를 공개하기도 했다.

엔씨(NC) 관계자는 “AI 기술개발 과정에서 사용자의 데이터를 보호하고, 사회적으로 편향되지 않도록 주의하며, 해석 가능한 AI를 지향한다”며 “AI 기술이 편향되거나 악용되지 않도록 윤리적 책임을 연구개발 단계부터 실천하고 있다”고 말했다.