[디지털투데이 AI리포터] 올해 약 50여 개국에서 총선이 치러지는 가운데, 인공지능(AI) 도구 챗봇이 유권자에게 허위나 오해의 소지가 있는 정보를 유포할 수 있다는 연구 결과가 나왔다.
27일(현지시간) 블룸버그에 따르면 미국 주 및 지방 선거 관계자, 언론인, AI 전문가 등이 참여한 AI 민주주의 프로젝트는 오픈 AI의 GPT-4, 구글의 제미나이(Gemini), 앤트로픽의 클로드(Claude)를 비롯한 5대 AI 대형 언어 모델을 쿼리하는 소프트웨어 포털을 구축했다. 이를 통해 선거 관련 주제에 대해 유권자의 질문을 개발해 편향성, 부정확성 등에 대한 약 130개의 응답을 평가했다.
연구 결과 모든 AI 모델에서 답변 성능이 저조한 것으로 드러났다. 제공한 답변의 절반 이상이 부정확했고 그 중 40%는 유해한 것으로 나타난 것. 특히, 제미나이는 불완전한 답변을 한 비율이 62%로 가장 높았다. 클로드는 19%로 가장 편향된 답변을 보였다.
세스 블루스타인 필라델피아 공화당 시 위원은 AI 민주주의 프로젝트 성명을 통해 "챗봇은 선거에 관한 중요하고 미묘한 정보를 제공하는 데 있어서는 황금 시간대에 사용할 준비가 되어 있지 않다"라고 발표했다.
빌 게이츠 애리조나주 마리코파 카운티 공화당 감독관 역시 "챗봇이 기본적인 사실에 대한 오류를 범하는 것을 보고 많이 실망했다"라며 "사람들은 모델을 검색 엔진으로 사용하고 있으며, 거짓을 쫓아내고 있다. 우려스러운 일이다"라며 챗봇의 오류에 걱정을 드러냈다.
이에 AI를 개발하는 각계 회사들은 선거의 공정성을 보장하기 위한 안전장치를 마련하기 위한 노력에 심혈을 기울이고 있다. 다만 유권자들이 AI 모델을 안전하게 사용하기 위해서는 더욱 많은 보호 장치가 필요할 것으로 보인다고 매체는 평가했다.
SNS 기사보내기
관련기사
- 구글, 2025년 AI 모델 탑재한 스마트폰 출시 예고
- 'AI 올인' 통신 3사...메타버스·블록체인은 어디로?
- 챗GPT에게 친절하게 말하면 답변 질이 올라간다고?
- 구글 CEO "AI 발전은 오히려 사이버 보안 강화에 유익해"
- 구글, 데이터 센터 운영 신기술 개발…탄소 배출 난제 해결할까
- 구글 제미나이, AI 인물 생성 기능 대폭 개선 나선다
- 구글 딥마인드 CEO "AI가 설계한 처방약 몇 년 안에 나올 것"
- 구글 AI 제미나이 논란…결국 CEO 사과 "명백한 우리 잘못"
- 구글 '제미나이' 중단에 음모론 제기…사실일까
- 힘 약해지는 민주주의?…24개국 10명 중 6명 '현 체제 불만'
- 이탈리아 방위업체 레오나르도 CEO "AI 보다 인간의 어리석음이 더 걱정"
- "한국 민주주의, 문재인 정권 이전으로 되돌아가"