[디지털투데이 이진호 기자]  배경훈 부총리 겸 과학기술정보통신부장관이 23일 산·학·연 전문가들과 AI 안전 확보 방안을 논의했다. 

배경훈 부총리는 이날 오후 AI 안전연구소를 방문하여 연구 평가 현장을 살핀 후 간담회를 개최했다. 현재 AI 안전 확보 기술 현황 등을 공유하고 정부 정책 방향을 논의하는 게 이번 방문 목적이다. 

AI안전연구소는 2023년 말부터 영국, 미국, 일본 등 주요국들이 다양한 AI 위험에 대응하기 위해 설립하기 시작했다. 한국도 글로벌 대응과 국가 차원의 AI 안전성 확보를 위해 2024년 안전연구소를 설립했다. 안전연구소는 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업 등을 수행하고 있다.

배 부총리는 안전연구소 AI 연구 평가 현장을 찾아 ▲딥페이크 탐지 기술 ▲미래 AI 위험 연구 ▲AI 안전 평가 수행 ▲AI 안전 정책 및 글로벌 AI 협력 등을 수행하는 직원들을 격려하고 AI 안전과 관련된 의견을 청취했다. 

아울러 딥페이크 악용 문제 해결과 AI 에이전트 안전성·신뢰성 확보를 위해  산·학·연 전문가 15명과 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 진행했다. 

배 부총리는 이어 AI 위험 대응을 위한 기술 개발 현황과 AI안전 생태계 조성 방안을 주제로 간담회를 진행했다. 첫 번째 세션에서는 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황 및 대응 방향 등을 논의했다. 

두 번째 세션에서는 글로벌 AI 위험 대응 동향에 따른 한국의 체계적인 AI 위험 대응 및 안전 확보를 위해 '(가칭)국가AI 안전 생태계 조성 종합계획' 마련을 위한 추진 방향을 논의했다. 참석자들은 안전하고 신뢰할 수 있는 AI 개발·활용  환경을 만들어야 한다는 데 공감했다. 

배 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음"이라며 "AI안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 올해 내 '국가AI 안전 생태계 조성 종합계획'을 마련할 계획"이라고 밝혔다.