[디지털투데이 AI리포터] 마이크로소프트(MS)의 한 소프트웨어 엔지니어가 연방거래위원회(FTC)에 서한을 보내 MS가 자사 생성형 AI 도구인 '코파일럿'의 부적절한 콘텐츠 생산을 충분히 막고 있지 않다고 폭로했다.

서한을 보낸 엔지니어는 셰인 존스. 그는 코파일럿의 가학적이고 폭력적인 콘텐츠 생성에 대한 우려를 나타냈다. 이날 존스가 FTC에 보낸 서한 내용에 따르면 존스는 "MS는 어린이를 포함하여 모든 연령대의 사람들이 사용할 수 있는 안전한 AI 제품이라고 코파일럿을 공격적으로 마케팅하고 있다"라고 입을 열었다.

그러면서 "내부적으로는 이 제품이 소비자에게 불쾌하고 부적절할 수 있는 유해한 이미지를 생성하는 시스템 문제를 잘 알고 있다"라고 MS의 안일한 태도를 비판했다.

이어 그는 "코파일럿이 생성하는 일부 사진은 부적절하고 성적으로 대상화된 여성 이미지를 무작위로 생성하는 경향이 있다"라며 "정치적 편견, 미성년자 음주 및 약물 사용, 기업 상표 및 저작권 오용, 음모론 등 다양한 범주에서 유해한 콘텐츠를 생성하고 있다"라고 코파일럿의 문제점을 제기했다.

그는 "AI위험에 대해 소비자에게 투명하게 알리기 위해 정부 규제를 기다릴 필요가 없다"라며 관련 부처와 업계의 즉각적인 대응을 요구했다. 존스는 해당 서한을 MS 이사회와 의원에게도 전달했다.

한편 MS는 이에 대한 논평을 거부했으며 "직원들이 우려하는 모든 문제를 해결하기 위해 노력하고 있다"라며 짧은 입장을 내놨다.