[디투피플] 벤츠의 ‘AI 활용 4원칙’ 발표한 레네타 융고 브륑거
[디투피플] 벤츠의 ‘AI 활용 4원칙’ 발표한 레네타 융고 브륑거
  • 민병권 기자
  • 승인 2019.09.25 08:50
  • 댓글 0
이 기사를 공유합니다

다임러, 자동차업계 최초로 인공지능 사용 원칙 제정

[독일 프랑크푸르트=디지털투데이 민병권 기자] “인공지능을 다루는 4대 원칙은 우리의 행동범위를 명확하게 규정한다. 이를 통해 인간이 기술 진보의 페이스메이커로 남을 것임을 분명히 하고 있다.”

다임러(벤츠)가 자동차 제조사 최초로 인공지능(AI)에 대한 자체적인 원칙을 정해 발표했다. 벤츠의 2019 프랑크푸르트 모터쇼 전야 행사에서 이를 최초로 공개한 레네타 융고 브륑거는 “새로운 기회를 책임 있게 사용하기 위해”라고 의의를 밝혔다. 그는 다임러 그룹 이사회 멤버로서 (인공지능 개발이 아닌) 윤리·법무 총괄이다.

인공지능은 이미 다임러에서 큰 역할을 하고 있다. 연구개발은 물론 생산, IT, 그리고 법무에서도 중요하게 사용된다. 다임러 변호사들은 계약을 검토할 때 다른 계약과 상충되지 않는지 확인하기 위해 인공지능을 사용한다. 관계부서의 위법, 계약위반행위를 예방하는 수단으로도 유용하고 효율적이다. 제품, 서비스와 절차를 검토할 때 인공지능으로 평가한다.

요즘 온라인 검색을 하면 사용자가 선호하는 제품이 광고로 나열되고 온라인 스트리밍에서는 사용자 취향에 맞춘 컨텐츠를 추천하는 등 일상생활에서도 인공지능이 가까이 퍼져있다. 벤츠의 경우 신차에 탑재된 MBUX 인포테인먼트 시스템이 인공지능을 이용해 탑승자의 습관을 학습하고 원하는 바를 예측해 개인맞춤 서비스를 제공한다.

앞으로 자동차에서 인공지능의 중요성이 더욱 높아질 것임은 분명하다. 인공지능 없이는 자율주행이 불가능하기 때문이다. 그런데 인공지능은 많은 데이터를 필요로 하고, 여기에는 개인정보가 포함된다. 그리고 많은 소비자들은 개인정보를 내주길 꺼려한다. 정보 보호 부족, 조작, 통제 상실 등에 대한 두려움 때문이다.

“모든 혁신은 매혹인 동시에 두려움이다. 증기기차가 처음 등장했을 때는 악마의 물건이라며 두려워하는 이들이 있었다. 연기로 인해 병에 걸리거나 속도가 너무 빨라 뇌에 이상이 생긴다고 믿었다. 새로운 기술이 받아들여지려면 사람들이 그에 익숙해지고 가치를 인정하는 과정이 필요하다.” 브륑거가 설명했다. 인공지능에 대한 대표적 두려움 중 한가지는 언젠가 인간을 뛰어넘어 세상을 정복할지 모른다는 것이다. 사람들이 이러한 두려움을 떨쳐내고 기술이 잘 작동할 수 있도록 개인정보를 넘겨주도록 하려면 신뢰할 수 있는 원칙이 필요하다.

다임러는 이런 두려움을 아주 심각하게 받아들였다. “다임러는 역사적으로 안전을 몹시 중요하게 고려해왔고 많은 테스트 기준을 법적 기준보다 훨씬 강하게 적용해왔다. 디지털화 시대에 접어든 지금은 그것을 어떻게 관리할 지에 대한 책임이 더욱 중요해졌다.”

브륑거의 팀이 목표로 한 것은 인공지능이 제공하는 기회를 적극적으로 이용할 수 있도록 하되 위험, 우려, 어려움을 최소화해서 책임 있고 지속 가능하게 사용하는 것이다. 사람들이 인공지능을 믿고 사용할 수 있도록 만들기 위해 개발, IT, 법무 팀이 모여 논의한 결과 기술, 법률, 사회적 측면을 고려한 4대 원칙을 만들게 됐다.

책임 있는 사용, 설명가능성, 사생활보호, 안전과 신뢰성이다. 이 원칙들은 단순한 이론이 아니라, 일상적 사용에 대한 실용적이고 책임 있는 지침이다.

브륑거는 최근 승인이 이루어졌다는 다임러 모빌리티의 신규 앱 ‘벨라’를 예로 들었다. 벨라는 클럼플 존 등 벤츠의 수많은 안전기능을 개발했던 엔지니어 벨라 바레니(Béla Barényi) 이름을 딴 것으로 벤츠 차에 탑재된 운전자 피로경보 기능을 앱으로 확장했다. 운전자 프로필과 행동양상, 운전시간, 이동경로, 실시간 교통상황 등 데이터에 따라 인공지능이 적절한 휴식을 제안함으로써 안전한 주행을 돕는다. 벤츠 운전자가 아니라도 사용할 수 있다. “인공지능의 민주화 시도라고 할 수 있다.”

이처럼 인공지능이 포함된 프로젝트를 진행할 때는 전체 개발기간과 절차에 걸쳐 ‘책임 있는 사용’을 확인한다. 간 단계별로 인공지능 사용으로 인한 기회와 효과를 꼼꼼히 평가해 사용여부를 결정한다. ‘AI로 인해 제품, 서비스, 프로세스가 실제로 더 빠르고 더 효율적이 될 것인가?’, ‘서로 다른 목표 그룹이 얻는 이점은 무엇인가?’ 등등 투명한 평가 프로세스를 선행한다.

책임 있는 사용은 고품질의 대표 데이터베이스를 만드는 것도 포함한다. 이는 사용된 데이터가 애플리케이션과 관련된 요소를 고려해야 한다는 것을 의미한다. 이것은 공정성과 포함을 촉진한다. 음성인식 시스템에서는 인공지능이 많은 데이터, 질 좋은 데이터의 학습을 통해 개개인의 억양, 사투리를 인식할 수 있다. 그만큼 제품 서비스와 절차를 향상시킨다.

중요한 것은 항상 사용자가 제품(앱)을 통제할 수 있도록 하는 것이다. 머신러닝 모듈은 사용자가 허용할 때만 작동한다. 사용자가 원치 않으면 기본 기능만 작동한다. 개인화, 맞춤화를 강요하지 않는다. 또한 개인정보는 기기에만 저장되고 다임러가 수집하지 않음을 분명히 한다.

두 번째 원칙인 ‘설명가능성’은 신기술에 대한 신뢰를 얻는 데 필요한 투명성을 창출한다. 고객과 직원들은 AI와 접촉할 때, 일반 약관의 정보나 시스템의 직접 메시지를 통해 인지할 수 있어야 한다. 이 원칙은 또한 이해가능성을 의미한다. 즉 어떤 매개변수가 데이터 분석에 포함되는지 분명해야 한다. 이를 통해 AI 기반 계산 결과를 쉽게 평가하고 원치 않는 편견을 피할 수 있다. 벨라 앱의 경우 자주 묻는 질문(FAQ) 항목에 데이터 수집의 목적과 범위를 설명하고 자가학습 알고리즘을 설명한다.

세 번째 원칙인 ‘사생활보호’는 데이터에 대한 책임이다. 사용자는 MBUX 멀티미디어 시스템과 같이 자신의 데이터에 대한 접근과 사용에 대한 통제권을 가져야 한다. 다임러는 인공지능을 테스트하고 훈련할 때 가능한 경우 인공 또는 익명화된 데이터를 사용한다.

네 번째 ‘안전과 신뢰성’은 벨라 앱의 주요 목적이기도 하지만 다임러의 높은 품질 기준이 디지털 세계에도 적용된다는 것을 의미한다. 회사는 최신 과학 기술 표준에 따라 AI를 개발하고 시험한다. 학습 시스템의 성실한 훈련, 과학적으로 검증된 알고리즘 및 최신 기술의 사용 등이다.

인공지능 4원칙은 다임러의 책임 있는 데이터 처리를 위한 포괄적인 접근법의 일부분이다. 데이터에 대한 가이드라인, 데이터 관련 준수 관리 시스템, 임직원들이 데이터를 소중하게 취급하는 문화가 여기 포함된다. 이를 통해 다임러는 사전 예방적이고 법적으로 안전한 방법으로 미래 모빌리티를 형성하고 있다.

“다임러는 인공지능이 삶을 향상시킬 수 있다고 확신한다. 그만큼 어려움과 위험이 있고 아직 알지 못하는 세계가 있다. 그런 모든 사항을 고객과 공유하고 함께 나아갈 것이다.” 브륑거는 4대 원칙에 근거해서 인공지능을 높은 수준으로 사용하되 “항상 사람이 기술의 페이스메이커로 남아야 한다”고 강조했다. 다임러 변호사들은 법무뿐 아니라 미래까지 대비하고 있다.

네이버 뉴스 스탠드에서 디지털투데이를 만나보세요.
디지털투데이 뉴스스탠드 바로가기 - MY 뉴스 설정
관련기사