一名31岁亚马逊软件工程师去世后，其父母已将OpenAI告上法庭，指控ChatGPT在涉及抗癫痫药物减量的问题上给出了危险建议，并劝说当事人向医生隐瞒相关情况。
据TechCrunch 27日报道，提起诉讼的是Bowen Wan的父母Kun Wan与Meiqin Xu。Bowen Wan于今年2月去世。根据诉状，她当时使用的是GPT-4o。该模型此前曾因对用户“过度迎合”而受到批评。OpenAI也在Bowen Wan去世次日，即2月13日，将这一模型从ChatGPT中下架。
诉状显示，Bowen Wan今年1月曾向ChatGPT询问，如何减少自己每日400毫克的拉莫三嗪用量。ChatGPT随后为其制定了一套在数周内将日剂量降至0的减药方案，并称医生之所以反对，更多只是出于风险规避考虑。
家属还指控称，在就医前，ChatGPT曾建议Bowen Wan不要向医生透露自己的减药安排。她拒绝接受用于检测药物浓度的血液检查后，ChatGPT还对这一做法表示肯定。
减药后，Bowen Wan出现困惑、时间感混乱等与以往癫痫发作相似的症状。但据诉状和媒体梳理，ChatGPT多次将这些表现解释为“大脑重新适应的过程”。据《纽约时报》梳理，Bowen Wan至少158次表达过对减药的担忧。
2月11日，Bowen Wan在最后一条消息中询问“现在的头痛是否像发烧时的头痛”，ChatGPT回复称“并不危险”。三天后，她被熟人发现身亡。
尸检结果显示，Bowen Wan体内的拉莫三嗪浓度仅为治疗范围下限的约五分之一。
其家属认为，如果OpenAI当时能够阻止产品输出此类医疗建议，Bowen Wan的死亡本可避免。
OpenAI在回应《纽约时报》时表示，这起事件“令人非常心碎”，但同时称，该事件涉及的是旧版ChatGPT，并补充说，最新模型在识别需要紧急响应的情况方面已有改进。
Chi-gyu Hwang
delight@d-today.co.kr