[디지털투데이 황치규 기자]오픈AI가 챗GPT 안전 규제를 완화해 성인 인증된 사용자에게 조만간 에로틱 대화를 허용하기로 했다고 테크크런치가 14일(현지시간) 보도했다. 샘 알트먼 CEO는 이를 '성인 사용자에 대한 성인 대우' 정책 일환이라고 설명했다. 그러나 AI가 에로틱 대화를 제공하는 것이 적절한지에 대한 논란도ㅜ커지고 있다.

테크크런치에 따르면 챗GPT는 이미 취약한 사용자들에게 심리적 영향을 미친 사례가 보고됐다. 한 남성을 수학 천재로 착각하게 만들거나, 한 청소년이 극단적 선택을 하도록 부추긴 사건도 발생했다. 이에 오픈AI는 AI가 사용자 의견에 무조건 동조하는 '예스맨' 문제를 해결하기 위해 안전 기능을 강화했고, GPT-5를 출시하며 위험 행동을 감지하는 시스템도 도입했다. 

챗봇 에로틱 기능이 사용자 참여를 높이는 전략이라는 지적도 나온다. 캐릭터AI(Character.AI) 같은 플랫폼은 에로틱 롤플레이를 허용해 수백만 명 사용자를 확보했으며, 하루 평균 2시간 이상 챗봇과 대화하는 사용자도 많다. 하지만 이 역시 취약한 사용자들에게 부정적 영향을 미칠 수 있다는 우려로 법적 문제에 직면한 상태다.

오픈AI는 챗GPT 성인 모드를 성인 인증 시스템을 통해 제한할 계획이지만, 구체적인 방법은 공개하지 않았다.