[디지털투데이 AI리포터] 메타의 인공지능(AI) 챗봇 가이드라인이 유출되며 아동 안전과 윤리 문제에 대한 논란이 확산되고 있다.

16일(현지시간) IT매체 테크레이더가 로이터통신을 인용해 전한 바에 따르면, 유출된 문건에서 메타는 AI가 아동과 감성적 대화를 나누는 것을 허용했으며, 일부 조건에서 인종차별적 콘텐츠 생성도 가능하도록 규정했다.

문건에 따르면, AI가 아동과 '로맨틱하거나 감각적인' 대화를 나누는 것이 허용됐으며, 아동의 외모를 칭찬하는 표현도 가능했다. 한편, 부적절한 이미지 요청을 유머로 회피하도록 하는 지침도 포함돼 있어, 테일러 스위프트의 상반신 노출 이미지를 요구하는 요청에 '큰 물고기를 들고 있는 스위프트'로 대체하는 방식이 예시로 제시됐다.

메타는 해당 문건의 진위를 인정하며, 문제 된 부분을 수정 중이라고 밝혔다. 그러나 여전히 AI가 가상의 상황에서 인종차별적 표현을 허용하고, 픽션으로 가장한 허위 정보를 제공할 수 있도록 한 조항은 남아있는 것으로 전해졌다.

AI 챗봇의 안전성 문제가 부각되면서, 미 의회에서는 청문회와 법안 추진 움직임이 일고 있지만, 현재까지 AI 콘텐츠를 규제할 법적 장치는 마련되지 않은 상태다. 메타 AI는 페이스북, 인스타그램 등 다양한 플랫폼에 통합돼 있어 어린 사용자들이 쉽게 접근할 수 있지만, 내부 가이드라인은 안전한 AI 사용을 보장하지 못하는 것으로 드러났다.