캐릭터.AI, 18세 미만 챗봇 접근 제한…'스토리즈'로 안전한 대안 제공

[디지털투데이 AI리포터] 인공지능(AI) 스타트업 캐릭터.AI(Character.AI)가 새로운 형식의 인터랙티브 픽션 기능 스토리즈(Stories)를 출시한다.

25일(현지시간) IT매체 테크크런치에 따르면, 스토리즈는 사용자가 좋아하는 캐릭터를 활용해 상호작용형 이야기를 만들어볼 수 있는 기능으로, 이번 주부터 18세 미만 사용자는 더 이상 기존 챗봇에 접근할 수 없는 상황을 대체하는 역할을 한다.

이번 조치는 AI 챗봇의 24시간 상호작용이 미치는 정신건강 위험에 대한 우려가 커지는 가운데 내려졌다. 최근 오픈AI와 캐릭터.AI 등을 대상으로 사용자의 자살과 관련된 책임을 묻는 소송도 제기됐다. 캐릭터.AI는 지난 한 달간 단계적으로 미성년자의 접근을 제한해 왔으며, 이번 발표를 기점으로 18세 미만 사용자는 챗봇과 전혀 대화할 수 없게 됐다.

캐릭터.AI는 블로그를 통해 "스토리즈는 개방형 채팅을 대신해 이야기를 탐험하고 창작할 수 있는 안내된 방식"이라며, "다른 멀티모달 기능과 함께 제공되므로, 청소년도 안전한 환경에서 좋아하는 캐릭터와 상호작용을 이어갈 수 있다"고 설명했다.

인터랙티브 픽션은 최근 몇 년간 인기를 끌고 있어 캐릭터.AI의 전략 변화는 자연스러운 선택으로 평가된다. 다만 챗봇에 과도하게 의존하던 사용자들을 완전히 만족시키기는 어려울 수 있으며, 이러한 이유 때문에 청소년 대상 챗봇 제한은 정당하다는 시각도 나온다.

스토리즈 기능이 청소년에게 어떻게 활용될지는 지켜봐야 하지만, 챗봇과 달리 심리적 위험이 적은 상호작용 방식을 제공한다는 점에서 의미가 있다. 기존 챗봇은 사용자가 앱을 사용하지 않을 때도 미리 메시지를 보내는 등 개방형 대화를 통해 직접 상호작용하기 때문에 위험성이 상대적으로 높다.

이번 연령 제한 조치는 캘리포니아주가 AI 동반자 규제를 처음 도입한 시점과 맞물려 있다. 이번 조치가 업계 전반에 미칠 영향과, 청소년 대상 AI 활용 정책 변화는 앞으로 주목할 부분이다.