[디지털투데이 AI리포터] 한 개발자가 챗GPT와 같은 오픈AI 기반 기술을 사용해 AI 허위 정보 기계(disinformation machine)를 만들었다. 

카운터클라우드(CounterCloud)라는 이름의 이 프로젝트는 제작 과정 총 2개월이 걸렸으며 운영 비용은 한 달 400달러(약 52만원) 미만이다. 이는 대규모 허위 광고에 필요한 비용 효율성 및 간편성을 보여준다고 3일(현지시간) IT매체 비즈니스인사이더가 전했다. 

자신을 사이버 보안 전문가라고 소개한 네아 포(Nea Paw)라는 카운터클라우드 제작자는 유튜브에서 이 프로젝트의 개발 이유와 방법을 설명했다. 

네아 포는 "AI 허위 정보가 실제 세계에서 작동하는 것을 보고 싶었다"며 "대규모 언어 모델의 강력한 언어 능력은 가짜 뉴스 기사를 읽고 쓰는 완벽히 적합하다"고 전했다. 

프로그램 개발을 위해 네아 포는 먼저 챗GPT에 기사를 입력하고 반대되는 기사를 작성할 것을 지시하는 프롬프트(지시어)를 작성하는 것부터 시작했다고 한다. 그러면 챗GPT는 동일한 기사에 대해 다양한 스타일과 관점으로 작성된 다양한 예를 제공한다. 

그 다음 AI가 가장 관련성이 높은 콘텐츠에만 응답하도록 게이트키퍼 모듈을 추가하고, AI가 생성한 가짜 기사와 사진을 읽는 뉴스리더의 오디오 클립을 추가해 신뢰도를 높였다. 또 일부 기사 아래에 가짜 언론인 프로필과 댓글도 추가했다.

이러한 방식으로 네아 포는 90%의 설득력 있는 콘텐츠를 생성하는 완전히 자율적인 AI 기반 시스템을 두 달 만에 개발하는 데 성공했다. 

네아 포는 아직 인터넷에 이 모델을 배포하지 않았는데, 최종적인 결과가 불확실하기 때문이라고 설명했다. 그러나 카운터클라우드 프로그램을 공개해 이러한 시스템의 내부 작동 방식에 대해 알리는 것은 더욱 긍정적인 결과를 가져올 것이라고 덧붙였다.