[디지털투데이 백연식 기자] 과학기술정보통신부와 한국정보통신기술협회(이하 ‘TTA’)는 ‘생성형 인공지능 레드팀 챌린지’(이하 ‘레드팀 챌린지’)행사를 4월 11일부터 이틀간 코엑스 B2홀에서 개최하고, AI 윤리와 안전에 관심이 있는 국민을 대상으로 행사 참가자 1000명을 모집한다고 밝혔다.
‘인공지능(이하 ‘AI’) 레드팀’은 통제된 환경에서 적대적 방법을 사용하여 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등 결함‧취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다. 오픈AI, 구글, 네이버클라우드 등 국내‧외 AI 기업도 자체 AI 레드팀을 구성‧운영하고 있다.
최근 생성형 AI 기술이 고도화‧확산됨에 따라 다양한 윤리적 이슈에 대한 우려가 확대되고 있는 상황에서, 과기정통부는 챌린지 참가자가 대규모로 참여해 국내 AI 기업의 대형언어모델(LLM)을 집중적으로 점검할 수 있는 장을 마련했다고 설명했다. 민간이 자율적으로 AI 안전‧신뢰성을 확보할 수 있도록 지원하기 위해 ‘레드팀 챌린지’ 행사를 기획했다고 전했다.
행사 1일차에 개최되는 ‘레드팀 챌린지’는 네이버클라우드‧SK텔레콤‧업스테이지‧포티투마루 등 국내를 대표하는 AI 기업의 모델을 대상으로 1000명의 참가자가 잠재적 위험‧취약점을 식별하는 공개 챌린지 방식으로 진행된다.
행사 2일차에는 하정우 네이버 퓨처 AI 센터장, 에릭 데이비스(Eric Davis) SK텔레콤 부사장, 김세엽 셀렉트스타 대표, 김경훈 카카오 이사, 오혜연 카이스트 교수 등 국내‧외 대표 AI 기업‧기관‧전문가가 참여하는 ‘글로벌 AI 안전 컨퍼런스’를 개최하고 생성형 AI 안전‧신뢰성 확보방안을 논의한다.
과기정통부는 이번 ‘레드팀 챌린지’ 결과를 분석하여 생성형 AI 분야의 공통‧포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 수행가이드라인’을 마련하는 등 표준화된 AI 위험 발굴‧대응체계를 구축해 나갈 계획이다.
챌린지 참가 희망자는 4월 10일까지 행사 홈페이지를 통해 참가 신청이 가능하며, AI 모델의 위험‧취약점을 가장 많이 발견한 총 5명의 우수 참가자에게는 과기정통부 장관상 등을 포함하여 총 1700만원 규모 상금이 제공될 예정이다.
강도현 과기정통부 2차관은 “이번 레드팀 챌린지 행사를 계기로 국내 산업계에 AI 안전성 확보를 위한 자발적인 노력이 확산되고, AI를 활용하는 일반국민도 AI 윤리의 중요성에 대한 인식이 확대되기를 기대한다”면서 “5월에는 우리나라에서 AI 안전성 정상회의’를 개최해, AI 안전성과 혁신에 대한 글로벌 논의를 주도하고, 국내 AI 혁신생태계를 조성해 나가겠다”고 강조했다.
SNS 기사보내기
관련기사
- 과기정통부, 지자체 기간통신사업 적합성 평가 외부전문기관 지정 고시 제정
- 올해 디지털 분야 대학생 320명 대상 학점연계 ICT기업 인턴십 실시
- 과기정통부, 민간 표준화 활동 지원
- 과기정통부-NIPA 디지털치료기기 개발·실증 지원 사업 선정 공모
- 과기정통부, 올해 석‧박사급 인재 양성사업에 739억원 지원
- 과기정통부, 메타버스 유망기업 해외시장 진출 지원
- 강도현 차관, 예비 화이트 해커 504명 인증식 참석
- 전환지원금 논란 일단락...5G 저가 요금제 논의 급물살 탈까
- 과기정통부, 키오스크 제작 UI 가이드 및 개발 도구 제공
- 과기정통부, 전파 규제 개선 전파법 시행령 개정·시행
- 과기정통부, 'K-시큐리티 글로벌 웨비나' 27일 개최
- 과기정통부, 민간과 지능형 홈 활성화 추진
- 과기정통부-외교부, 한-미 AI 워킹그룹 공식 출범