Tòa án Tối cao bang New Mexico của Mỹ đã xử phạt một luật sư sau khi ông nộp bản kháng cáo chứa lời khai sai sự thật và nhân chứng không tồn tại do ChatGPT tạo ra. Theo phán quyết của tòa, vấn đề không nằm ở việc sử dụng AI, mà ở chỗ luật sư đã ký và nộp văn bản mà không kiểm chứng độ chính xác của nội dung.

Theo Ars Technica ngày 11/9 theo giờ địa phương, tòa đã ra quyết định quy kết hành vi coi thường tòa đối với luật sư bào chữa hình sự Stephen Aarons, đồng thời buộc ông nộp 5.000 USD vào Quỹ Bảo vệ thân chủ của Đoàn luật sư bang New Mexico. Hồ sơ của ông cũng được chuyển tới ủy ban kỷ luật, và ông bị cấm xuất hiện trước Tòa án Tối cao bang cho đến khi các thủ tục điều tra và xem xét liên quan hoàn tất.

Vụ việc bắt nguồn từ đơn kháng cáo của Oscar Renee Sandoval, người đang thụ án tù chung thân vì tội giết người. Trong văn bản nộp vào tháng 8 năm ngoái, Aarons đã đưa vào 4 nhân chứng chưa từng xuất hiện tại phiên tòa, gồm sĩ quan Michelle Amarillo, sĩ quan Sanchez, Manal Al-Jibury và Teresa Marquez.

Bản kháng cáo này cũng bổ sung những nội dung đe dọa không có thật vào lời khai của các nhân chứng thực tế như Danny và Linda Stanton, đồng thời mô tả sai về trang phục và ngoại hình của hung thủ. Một số án lệ được viện dẫn trong văn bản cũng bị diễn giải không chính xác.

Tại phiên điều trần ngày 21/8, Aarons khai rằng ông đã nhập biên bản xét xử cùng các tài liệu của vụ án vào ChatGPT để yêu cầu tóm tắt, và tin rằng kết quả trả về sẽ chính xác. Ông cũng nói khi đó chưa hiểu đầy đủ về hiện tượng “ảo giác”, tức việc AI có thể tự tạo ra dữ kiện không có thật.

Hội đồng xét xử không chấp nhận lập luận này. Tòa nhấn mạnh việc nhờ AI hỗ trợ, nhờ luật sư ít kinh nghiệm hay đồng nghiệp hỗ trợ đều không làm thay đổi nguyên tắc rằng người ký văn bản phải chịu trách nhiệm cuối cùng về tính chính xác của tài liệu nộp cho tòa.

Tòa cũng cho rằng Aarons không chỉ không phát hiện các sai sót, mà còn không thông tin đầy đủ cho thân chủ về mức độ nghiêm trọng của vụ việc. Tòa án Tối cao bang sau đó quyết định rút toàn bộ hồ sơ kháng cáo trước đó khỏi hệ thống lưu trữ, đồng thời yêu cầu Văn phòng Luật sư Chỉ định cử người bào chữa mới cho Sandoval.

Vụ kháng cáo của Sandoval dự kiến sẽ được xem xét lại trong nhiệm kỳ xét xử 2026-2027, sau khi bản kháng cáo mới được nộp.

Phán quyết lần này tiếp tục cho thấy các công cụ AI tạo sinh có thể được sử dụng trong công việc pháp lý, nhưng trách nhiệm kiểm chứng nội dung không thể bị chuyển sang cho AI.