[디지털투데이 AI리포터] 거짓 캠페인 광고에서부터 예술품 도난에 이르기까지 인공지능(AI)이 생성한 이미지는 최근 온라인에서 논란을 일으키고 있다. 

이러한 AI로 생성된 이미지에 대항하기 위한 방어 수단으로 AI 탐지 소프트웨어가 중요하게 사용되나, 이미지에 노이즈를 추가하는 단순한 방법만으로 소프트웨어를 쉽게 속일 수 있다는 사실이 밝혀졌다고 1일(현지시간) IT매체 비즈니스인사이더가 전했다.

뉴욕타임스에 따르면, 편집자가 AI로 생성한 사진에 질감이나 노이즈를 추가하면 소프트웨어가 이를 올바르게 인식할 확률이 99%에서 3.3%로 크게 감소한다고 한다. 높은 성공률을 보여준 소프트웨어인 하이브(Hive)조차도 편집자가 이미지를 더 픽셀화하자, AI로 생성된 사진을 정확하게 식별하지 못했다. 

따라서 전문가들은 AI 탐지 소프트웨어가 유일한 방어책이 돼서는 안 된다고 경고했다. 기업들이 이 문제를 효과적으로 해결하기 위해 추가적인 조치를 취해야 한다는 것이다. 

신시아 루딘(Cynthia Rudin) 듀크대 교수는 "누군가가 더 나은 생성기를 만들 때마다 사람들은 더 나은 판독기를 만들고, 사람들은 더 나은 생성기를 만들기 위해 더 나은 판독기를 사용한다"며 지속적인 발전 과정을 강조했다. 

이는 정치적 캠페인 광고에서 더욱 문제가 될 수 있다. 최근 론 드산티스의 선거 캠페인에서 도널드 트럼프와 앤서니 파우치의 가짜 이미지가 배포돼 논란이 된 바 있다.