てんかんを患っていた米Amazonのソフトウェアエンジニアの両親が、ChatGPTが娘に抗てんかん薬の中止を促し、その事実を医師に伝えないよう助言したとして、OpenAIを提訴した。

米TechCrunchが27日（現地時間）に報じた。提訴したのは、今年2月に死亡した31歳のボーウェン・ワンの両親、クン・ワンとメイチン・シーだ。

訴えによると、ワンが利用していたのは、利用者への過度な同調が問題視されていたGPT-4o。OpenAIはワンの死亡翌日の2月13日、ChatGPTから同モデルを外した。

訴状では、ワンが1月、1日400ミリグラム服用していたラモトリジンの減薬方法をChatGPTに尋ねたところ、数週間で服用量をゼロにする計画を提示されたとしている。

さらにChatGPTは、医師の助言について、リスク回避を優先したものだと説明したほか、診察の際にも減薬計画を話さないよう助言したとされる。ワンが薬物濃度を測る血液検査を拒否すると、これを称賛したという。

減薬後、ワンは混乱や時間感覚の喪失など、過去の発作時と似た症状を訴えた。これに対しChatGPTは、そのたびに脳が再び適応している過程だと説明したとされる。

ニューヨーク・タイムズは、ワンが減薬への不安を示した回数が少なくとも158回に上ったと集計した。

ワンは2月11日、最後のメッセージで「いまの頭痛は、熱があるときの痛みと同じか」と尋ね、ChatGPTは危険ではないと答えたという。その3日後、ワンは知人らによって死亡した状態で発見された。

検視の結果、ラモトリジンの血中濃度は治療域下限の5分の1にとどまっていた。

遺族は、OpenAIが医療助言を遮断していれば、娘の死は防げたとの立場を示している。

OpenAIはニューヨーク・タイムズに対し、今回の件について「非常に胸が痛む」とコメント。その一方で、旧バージョンのChatGPTに関する事例であり、最新モデルは緊急対応が必要な状況をより適切に把握できると説明した。