[디지털투데이 황치규 기자] 유럽연합(EU)이 8일(현지시간) AI에 대한 규제 법안을 내놨다.

주요 EU 기관들이 참여한 가운데 나온 합의안인 EU AI 법(The EU AI Act)은 AI를 겨냥한 첫 법률로 서구 국가들에선 처음으로 법으로 AI를 관리하는 것이어서 관련 업계 글로벌 전략에도 영향을 미칠 전망이다.

EU AI 법은  챗GPT같은 생성형 AI 모델들과 얼굴 인식, 지문 스캐닝 같은 생체 인증 툴에 대한 규제를 포함하고 있다.

유럽의회는 EU AI 법에 대해 내년 초 표결을 진행한다. 법적 효력을 갖는 시점은 빨라도 2025년 이후가 될 전망이다.

EU AI 법은 EU에서 AI를 사용하는데 따른 안전조치 및 적용 시 제한 사항을 담고 있다. 위반 시 750만유로(미화 810만달러) 또는 매출의 1.5%에서  3500만달러 또는 매출의 7%가 과징금으로 부과될 수 있다. 소비자들은 AI에 관련해 불만을 제기하고 의미 있는 설명을 들을 수 있는 권리를 갖는다.

EU AI 법은 AI 리스크를 받아들일 수 없음(unacceptable), 높음, 중간, 낮음 4가지 카테고리로 나누고 있다. 받아들일 수 없음에 해당하는 AI는 금지된다.

EU AI 법은 챗GPT 같은 생성형AI 기반 모델(foundation models: FM)과 범용 AI 시스템(general purpose AI systems, GPAI)들에 시장에 내놓기 전 투명성 의무를 따를 것을 요구하고 있다. 기술 문서 작성, EU 저작권법 준수, 훈련에 사용된 콘텐츠에 대해 요약을 구체적으로 제공하는 것 등을 포함하고 있다.

영향력이 큰 기반 모델들은 모델 평가, 시스템적 위험 평가 및 완화, 적대적 테스트 수행, 심각한 사고에 대한 유럽위원회 보고, 사이버 보안 보장, 에너지 효율성에 대한 보고서 작성 등을 수행해야 한다.

EU AI 법은 인지 행동 조작, 인터넷이나 CCTV 영상에서 대상이 아닌 얼굴 이미지 삭제, 정치적, 종교적, 철학적 신념, 성적 취향, 인종을 유추하기 위한 소셜 스코어링 및 생체 인식 분류 시스템을 금지하고 있다.

정부는 특정 범죄 피해자, 테러 공격과 같은 실제적, 현존하는 또는 예측 가능한 위협 예방, 가장 심각한 범죄 혐의자를 수색하는 경우에만 공공장소에서 실시간 생체 감시를 사용할 수 있다.

보도들에 따르면 독일, 프랑스, 이탈리아는 기반 모델(foundation models: FM)들을 직접 규제하는 것보다는 정부가 내놓은 지침을 통한 기업들 자율 규제를 선호했다. 이들 국가는 과도한 규제가 중국 및 미국 테크 기업들과 경쟁할 유럽의 역량을 억합할 수 있다는 점을 우려했다. 독일과 프랑스는 딥엘과 미스트럴AI같은 AI 기업들의 홈그라운드다.

EU AI 법은 EU가 AI를 규제하기 위해 몇 년에 걸처 진행한 노력의 결과물이다. 앞서 2021년 유럽연합위원회(EC)는 AI를 위한 규제 및 법적 프레임워크를 처음으로 제안했다.

생성형 AI는 EU가 2021년 EU AI 법 초안을 내놓은 이후 사람들 사이에서 폭발적인 관심을 끌었고 이는 EU 의원들이 AI 규제에 대한 접근을 다시 생각하는 계기가 됐다. 챗GPT와 같은 생성형 AI들은 AI 전문가들 및 규제 당국 관계자들을 깜짝 놀라게 했고 프라이버시 침해, 일자리 감소, 편향 등과 관련한 우려도 불러일으켰다.