[디지털투데이 AI리포터] AI 챗봇이 정신건강에 미치는 영향에 대한 우려가 커지고 있다고 지난달 31일(현지시간) 문화예술 전문 매체 옵저버가 전했다.

오픈AI가 공개한 자료에 따르면 챗GPT 주간 이용자 8억명 중 약 0.07%가 정신병적 증상이나 조증 등 정신적 위기 징후를 보였다. 비율은 낮지만 수십만 명에 해당하는 규모다. 

또 0.15%(약 120만명)는 자살 충동을 표현했으며, 비슷한 수의 이용자가 챗봇과 정서적 유대감을 형성한 것으로 나타났다. 

전문가들은 AI가 심리 상담 접근성을 높일 수 있지만, 인간 전문가의 윤리적·치료적 책임은 결여돼 있다고 지적한다. 제프리 디첼 뉴욕 정신과 의사는 "AI의 반응이 망상이나 편집증을 악화시킬 수 있다"고 경고했다. 

이에 대응하기 위해, 오픈AI는 최신 모델 GPT-5를 통해 위기 대응 기능을 강화하고, 장시간 이용 시 휴식을 권유하는 기능과 위기 핫라인 안내를 추가했다. 앤트로픽은 해로운 대화를 자동 종료하는 기능을 도입했으며, 캐릭터.AI는 미성년자 대상 대화를 전면 금지하기로 했다. 메타는 성적 역할극 생성 방지를 강화했다.

한편, 미 상원은 지난 10월 28일 미성년자의 감정 시뮬레이션형 챗봇 사용을 금지하는 가드(GUARD) 법안을 발의하며, AI 기업의 연령 검증과 책임 강화를 요구하고 있다.