GoogleやAnthropic、SpaceXAIなどの主要AI企業が、弁護士や企業法務部門向けの専用サービスを相次いで投入している。一方で、AIが生成した架空の判例や誤った法理が裁判所提出書面で繰り返し見つかっており、引用の信頼性確保が大きな課題となっている。

米ITメディアEngadgetが9月29日付で報じたところによると、主要AI企業4社のうち3社が、2026年に入って法律特化製品を投入するか、関連サービスを公開した。Googleは8月、Cleary Gottlieb、Freshfields、Weil、Williams & Connollyなどと連携し、「Gemini Enterprise for Legal」のプレビューを開始した。

Anthropicは「Claude Legal Solutions」を提供している。SpaceXAIも、Grokをベースにした法律向けサービスを紹介するページを公開している。

問題視されているのは、いわゆる「ハルシネーション」だ。カナダ・オンタリオの法曹協会の裁判部は6月、Grokが作成した資料に実在しない判例や誤った法理が含まれていたとして、弁護士のシャフリヤール・マザヘリ氏に訴訟費用3万1150カナダドルの負担を命じた。

AIの利用自体が制裁理由となったわけではないが、出力内容を検証しなかった点は重く見られた。カナダでは虚偽引用が確認された事案が、2024年は7件、2025年は86件に増加し、2026年1～3月にも39件が追加された。

大手法律事務所でも同様の問題は起きている。Sullivan & Cromwellは4月、米ニューヨーク南部連邦破産裁判所に提出した緊急申立書について、AIが作成した虚偽または不正確な判例引用や法的な誤りが見つかったとして、裁判所に謝罪した。

同事務所はあわせて、社内のAI利用ポリシーと引用確認手順が適切に順守されていなかったと認めた。

GoogleとAnthropicは対策として、モデル固有の知識だけに依存せず、NetDocuments、Everlaw、CourtListenerなどの法務データベースや文書管理システムと連携させる仕組みを採っている。一方、SpaceXAIの法律向けページでは法務調査や引用機能を紹介しているものの、引用元を一次資料まで追跡する具体的な仕組みは明らかにしていない。

もっとも、専用の法律AIであってもハルシネーションのリスクがなくなるわけではない。スタンフォード大学のRegLabは2024年、Lexis+ AIとWestlaw AIを基盤とする製品を検証し、誤りの比率が約17～33％だったと報告している。

GoogleとAnthropicの最新の法律向け製品について、同様の手法で検証した独立研究は現時点で確認されていない。AIが法務業務を補助する場面は広がっているが、裁判所に提出する判例引用や法理の最終確認責任は、あくまで弁護士にあるとの原則は変わらない。