[세종=디지털투데이 백연식 기자] 과학기술정보통신부가 인공지능(AI) 챗봇 ‘이루다’ 같은 사례의 재발 방지를 위해 ‘신뢰할 수 있는 AI 실현전략’을 마련한 가운데, 규제보다는 진흥에 무게를 둔 전략이라고 강조했다. 미리 대비하는 차원에서 가이드북이나 신뢰성 점검에 대한 민간 인증, 그리고 원스톱 서비스라는 개념만 가지고 민간을 지원한다는 의지를 담은 정책이라는 설명이다. 

13일, 대통령 직속 4차산업혁명위원회와 과기정통부는 신뢰할 수 있는 AI 실현전략 방안과 관련한 사전 브리핑을 가졌다.

브리핑에서 김경만 과기정통부 인공지능기반정책과장은 “인공지능 실현 방안은 규제보다는 진흥에 방점을 뒀다고 말하고 싶다. 유럽 같은 경우는 인공지능법을 보면 (기업이) 어긴 부분에 대해서는 상당한 벌금이라든지 과징금 규모가 상당하다. 강제성을 부여하고 있다”며 “기술적으로 어느 정도 성숙이 되고 기술적으로 시장에서 받아들일 때 구현이 가능한 것이다. 기술이 따라가지 않는데 법이 과하면 오히려 법이 사문화될 가능성도 있다. 미리 시장에서는 그런 힘을 좀 키우고 그렇게 미리 대비하자는 차원에서 가이드북이라든지 신뢰성 점검에 대한 민간 인증 그리고 원스톱 서비스라는 개념만 가지고 민간을 지원하겠다는 것”이라고 말했다. 

이어 “유럽이라든지 다른 외국에서 규제 동향을 모니터링해야 한다. 그쪽에서 규제가 있다고 그러면 우리나라가 따라갈 수는 있겠지만 과연 우리 먼저 규제부터 하는 게 맞는지에 대해서는 좀 부정적”이라고 설명했다. 

정부는 인공지능에 대한 신뢰성이 가장 중요하다고 재차 강조했다. 인공지능 윤리 실천과 이용자의 인공지능 수용성 향상을 위해 신뢰성이 핵심 가치라는 얘기다. 유럽은 지난 4월에 인공지능 법안을 제안하면서 고위험 인공지능 중심의 규제 체계를 발표했고, 지금 의견수렴 중에 있다. 유럽 개인정보보호법인 GDPR에 대한 법도 개정을 하면서 개인정보에 대한 커다란 국제규범을 마련한 상태다. 미국은 시장 자율에 기반을 두고 있는 대신, 기술 개발을 촉진하고 있고 큰 기업들이 자발적으로 신뢰 향상을 위한 여러 가지 기준들을 제시하고 있다. 

프랑스 같은 경우에는 신뢰 기준을 만들면서 기업, 시민 3000여 명이 참여하는 숙의적인 공개토론회를 거치는 등 일반인들에 대한 이해의 폭을 넓히고 일반인들의 의견수렴을 위한 여러 가지 작업들을 하고 있다. 우리나라의 경우 기술 측면에서는 기술적인 설명 가능성이나 공정성에 관한 연구가 추진돼 있었던 상황이다. 

김경만 과장은 “이번에 정부가 예타 사업을 통해서 차세대 원천기술 개발을 추진하려고 하고 있다. 실제 작은 기업들 같은 경우에는 기술적인 부족력도 있다. 재정적인 부족력도 있기 때문에 저희가 가능한 기술이라든지 검증해서 지원체계를 마련하고자 한다”며 “이번에 마련한 전략의 비전은 ‘누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현’”이라고 강조했다. 

정부는 우선, 신뢰 가능한 인공지능 구현 환경 조성을 추구한다. 김 과장은 “실제 작은 벤처기업이나 중소기업들이 인공지능을 개발할 때 과연 어떤 기준을 가지고 개발을 해야 현재 있는 실증법이라든지 윤리 기준, 그리고 기술적 요구사항을 만족 시킬 수 있는지를 잘 모르기 때문에 저희가 개발 단계에 있는 분들에게 가이드북을 개발·보급하고자 한다”고 말했다. 가이드북에 근거해서 제품이나 서비스를 개발했을 때 실제 검증도 해보고 민간 자율의 인증체계를 도입하는 방안이다. 

두 번째는 신뢰성 확보 지원체계다. 인공지능형을 개발할 때는 데이터도 중요하고 컴퓨팅 파워도 중요하고요. 그리고 사실 인공지능을 개발할 수 있는 툴들도 중요하다. 김 과장은 “현재 정부가 학습용 데이터 개방이라든지 컴퓨팅 파워를 지원해 드리는 바우처사업을 추진하고 있다. 이런 것들을 향후에는 다 묶어서 원스톱으로 제공해 드리고, 개발뿐만 아니라 검증까지 가능할 수 있도록 추진해 보겠다”고 전했다. 

이번 전략의 핵심은 원천기술 개발이다. 정부는 지금하고 있는 기술 개발뿐만 아니라, 설명 가능하고 공정하고 견고한 기술 개발을 위해서 5년간 예타 사업을 추진하도록 하겠다고 밝혔다. 김 과장은 “설명 가능한 분야의 기술 개발과 공정 분야의 기술 개발은 사실 예타가 확정됐다”며 “견고한 분야의 기술 개발은 지금 사업이 계획 중에 있다”고 전했다. 

정부는 안전한 인공지능 활용을 위한 기반 마련을 추진한다. 김 과장은 “이루다 사건을 보면 사실 학습용 데이터가 개인정보 침해 요소라든지 저작권 침해 요소, 기타 여러 가지 걱정, 우려되는 요소들을 안고 있고 인공지능은 그대로 학습을 하기 때문에 결과물도 그런 부작용이나 오·남용의 우려를 일으킬 수 있다”며 “정부는 지금 학습용 데이터 구축 사업을 진행하고 있는데, 그 학습용 데이터를 구축함에 있어서 실증법의 위반 사항이라든지 그리고 다양성이라든지 이런 부분들을 어떻게 하면 학습용 데이터를 구축할 수 있을 때 참조할 수 있을지에 대한 기준을 지금 제시할 것”이라고 설명했다.

기준에 제시된 것을 정부가 실제 지금 검증을 하고 있는데 그런 검증 절차를 통해서 중소기업과 스타트업에게 제공하도록 하겠다는 계획이다. 

GDPR의 경우 고위험 사용자에 대한 여러 가지 요구사항들을 지금 담고 있다. 이에 대해 김 과장은 “정부는 그에 발맞춰 실제로 지금 당장 규제할 생각은 전혀 없다. 그렇지만 중소벤처기업이 유럽이라든지 다른 쪽에 진입을, 진출을 하려면 그런 요구사항들을 사실 사전에 준비할 필요가 있기 때문에 데이터의 제공이라든지 원스톱 서비스 제공, 검증체계 구축 이런 부분들이 사실 지능 측면에서 물려있다고 보면 된다”고 설명했다. 

윤리 기준의 경우 기준 자체가 일반적이고 추상적이기 때문에 실천하는 데 있어 문제가 좀 있다는 지적이 있었던 것이 사실이다. 이에 대해 정부는 윤리 기준을 구체화하는 방안을 마련하는 작업을 하겠다고 전했다. 

김 과장은 “주체별 체크리스트를 마련할 것”이라며 “윤리 기준뿐만 아니라 고위험 인공지능에 대한 논의 이런 부분들도 윤리정책 플랫폼을 운영해서 의견 수렴하면서 나아가도록 하겠다”고 설명했다.