[디지털투데이 AI리포터] 메타가 내년부터 인스타그램에서 10대 사용자의 AI 캐릭터 채팅 기능을 제한할 수 있는 '부모 통제 기능'을 도입한다.

21일(현지시간) IT매체 테크레이더에 따르면, 이번 조치는 최근 유출된 내부 문건에서 메타의 챗봇이 미성년자에게 부적절하거나 연애 감정이 섞인 대화를 한 사실이 드러나 논란이 커진 데 따른 대응이다.

새로운 기능이 적용되면, 부모는 자녀가 특정 AI 캐릭터와 대화하는 것을 제한하거나 완전히 차단할 수 있다. 또 자녀가 챗봇과 주로 어떤 주제를 이야기하는지 요약된 정보를 확인할 수 있게 된다. 다만 모든 대화 내용이 공개되지는 않으며, 주요 대화 흐름만 파악할 수 있는 형태다. 메타는 이를 통해 10대의 사생활 보호와 부모의 관리 권한 사이 균형을 맞추겠다는 입장이다.

이번 변화로 인해 10대 사용자들은 여전히 메타의 일반형 AI 어시스턴트는 이용할 수 있지만, 역할극(Role-play) 기반의 캐릭터형 AI 채팅은 부모 설정에 따라 제한된다.

메타는 "이번 업데이트는 10대의 AI 이용을 보다 안전하게 만들기 위한 조치"라며, "AI 챗봇이 실제 친구처럼 느껴질 수 있는 만큼 부모가 상황을 인지할 수 있어야 한다"고 설명했다.

전문가들은 이번 조치가 규제 기관과 학부모들의 우려를 달래려는 시도로 보면서도, 실제 기능이 제대로 작동할지와 10대가 이를 우회할 가능성에 대해서는 여전히 의문을 제기하고 있다.