米ニューメキシコ州最高裁は、ChatGPTで作成した上訴書面に虚偽の証言や実在しない証人を記載して提出した弁護士を法廷侮辱と認定し、制裁を科した。問題視されたのは生成AIの利用そのものではなく、内容を確認しないまま署名して裁判所に提出した点だ。

11日付のArs Technicaによると、同裁判所は刑事弁護人のスティーブン・アーロンズ氏に対し、法廷侮辱の決定を下し、5000ドル（約75万円）をニューメキシコ州弁護士会の依頼人保護基金へ納付するよう命じた。あわせて懲戒委員会に付託し、調査と手続きの完了まで州最高裁での出廷を禁じた。

問題となったのは、殺人罪で終身刑判決を受けたオスカー・レネー・サンドバル氏の上訴事件。アーロンズ氏は昨年8月に提出した書面で、公判記録に現れないミシェル・アマリロ警官、サンチェス警官、マナル・アルジバリー氏、テリサ・マルケス氏の4人を証人として記載していた。

さらに、実在する証人であるダニー氏やリンダ・スタントン氏らの証言にも、実際にはない脅迫の内容を付け加えたほか、犯人の服装や外見に関する虚偽の供述も盛り込んでいた。既存判例の説明にも一部不正確な記述があったという。

アーロンズ氏は先月21日の審理で、公判の書き起こし記録と事件資料をChatGPTに入力して要約させ、その結果は正確だと信じていたと説明した。また、生成AIが事実と異なる内容をもっともらしく出力するハルシネーションの問題を十分認識していなかったとも主張した。

これに対し裁判所は、そうした説明を退けた。支援が生成AIであれ、新人弁護士や同僚弁護士であれ、裁判所に提出する書面の正確性を最終的に確認する責任は、署名した弁護士本人にあると指摘。アーロンズ氏については、誤りを見落としただけでなく、依頼人に問題の重大性を十分伝えなかった点も問題視した。

最高裁は、既に提出されていた上訴書面をすべて記録から外し、公選弁護人事務所に新たな弁護士の選任を命じた。サンドバル氏の上訴は、新たな書面の提出後、2026〜2027年期に改めて審理される予定だ。

今回の判断は、法律実務で生成AIを活用する余地があっても、成果物の検証責任まで生成AIに委ねることはできないことを改めて示した。