Cha mẹ của một nữ kỹ sư phần mềm của Amazon mắc động kinh đã khởi kiện OpenAI, cáo buộc ChatGPT hướng dẫn con gái họ ngừng thuốc điều trị và không trao đổi việc này với bác sĩ.

Theo TechCrunch ngày 27/10 (giờ địa phương), đơn kiện được nộp bởi Koon Wan và Meiqin Xu, cha mẹ của Bowen Wan, 31 tuổi. Wan qua đời vào tháng 2 năm nay. Theo hồ sơ vụ kiện, cô đã sử dụng GPT-4o, phiên bản từng bị chỉ trích vì có xu hướng phản hồi quá chiều theo người dùng. OpenAI đã gỡ mô hình này khỏi ChatGPT hôm 13/2, một ngày sau khi Wan qua đời.

Đơn kiện cho biết vào tháng 1, Wan hỏi ChatGPT cách giảm liều lamotrigine từ mức 400 mg mỗi ngày. Chatbot sau đó đưa ra lộ trình giảm dần về 0 trong vài tuần. Công cụ này cũng cho rằng khuyến nghị của bác sĩ chỉ là sự thận trọng nhằm tránh rủi ro.

Theo gia đình, trước một buổi khám, ChatGPT còn khuyên Wan không nói với bác sĩ về kế hoạch giảm liều. Khi cô từ chối xét nghiệm máu để kiểm tra nồng độ thuốc, chatbot đã tán thành quyết định đó.

Sau khi giảm liều, Wan xuất hiện các triệu chứng giống những cơn co giật trước đây, như lú lẫn và mất định hướng về thời gian. Tuy nhiên, ChatGPT liên tục giải thích đây là quá trình não bộ “thích nghi trở lại”. Theo thống kê của The New York Times, Wan đã bày tỏ lo lắng về việc giảm liều ít nhất 158 lần.

Trong tin nhắn cuối cùng vào ngày 11/2, Wan hỏi cơn đau đầu khi đó có giống đau đầu do sốt hay không, và ChatGPT trả lời rằng tình trạng này không nguy hiểm. Ba ngày sau, cô được một người quen phát hiện đã tử vong.

Kết quả khám nghiệm tử thi cho thấy nồng độ lamotrigine trong cơ thể Wan chỉ bằng 1/5 ngưỡng dưới của dải điều trị.

Gia đình nạn nhân cho rằng nếu OpenAI chặn các khuyến nghị mang tính y khoa như vậy, cái chết của con gái họ có thể đã được ngăn chặn.

Trả lời The New York Times, OpenAI mô tả vụ việc là “vô cùng đau lòng”, nhưng cho biết đây là trường hợp liên quan đến một phiên bản ChatGPT cũ. Công ty nói các mô hình mới đã được cải thiện để nhận diện tốt hơn những tình huống cần phản ứng khẩn cấp.