Google、Anthropic、SpaceXAI等AI公司近期相继推出面向律师和法务团队的专用服务。与此同时，法院文件中仍不断出现AI生成的虚假判例和错误法理引用，法律AI的可信度如何验证，正成为行业关注的焦点。

据IT媒体Engadget当地时间2025年9月29日报道，在今年受到关注的主要AI机构中，已有3家推出法律垂类产品或公开相关服务。Google已于8月联合Cleary Gottlieb、Freshfields、Weil、Williams & Connolly等律所，开启Gemini Enterprise for Legal预览；Anthropic正在运营Claude Legal Solutions；SpaceXAI也已上线基于Grok的法律服务页面。

当前争议的核心仍在于AI“幻觉”。今年6月，加拿大安大略法律协会的审理机构认定，Grok生成的材料中出现了不存在的判例和错误法理。相关律师Shahriyar Mazaheeri因此被要求承担3.115万加元（约2974万韩元）的诉讼费用。处罚并非针对使用AI本身，而是因为未对AI产出完成核验，被视为重要的不利因素。

相关风险还在持续扩大。加拿大已确认的虚假引用案件数量，从2024年的7起增至2025年的86起；仅2025年第一季度，又新增39起。

大型律所同样未能幸免。Sullivan & Cromwell今年4月向纽约南区联邦破产法院提交紧急申请后，随后发现文件中存在AI生成的虚假或不准确判例引用，以及法律错误，并就此向法庭致歉。该律所同时承认，内部有关AI使用的政策和引文核验流程并未得到严格执行。

为降低相关风险，Google与Anthropic在产品设计上已不再单纯依赖模型自身知识，而是通过接入NetDocuments、Everlaw、CourtListener等法律数据和文档管理系统，强化检索与核验能力。相比之下，SpaceXAI的法律服务页面虽然介绍了法律检索和引用功能，但并未公开说明是否具备将引文追溯至一手资料的具体机制。

不过，被定位为“法律专用AI”，也不意味着“幻觉”风险会自动消失。斯坦福大学RegLab在2024年对Lexis+ AI和Westlaw AI相关产品进行测试后发现，其错误率约为17%至33%。截至目前，尚无以相同方法对Google和Anthropic最新法律产品进行的独立验证研究。

这意味着，AI可以作为法律工作的辅助工具，但凡提交至法院的判例、引文和法理，仍须由律师本人逐项核实，这一原则并没有改变。