Khi AI vượt ngoài tầm kiểm soát và gây ra sự cố, câu hỏi đầu tiên được đặt ra là ai phải chịu trách nhiệm pháp lý. Tuy nhiên, theo giới chuyên gia, đây không phải vấn đề có thể quy ngay về phía công ty phát triển AI, nhất là khi thiệt hại do công nghệ này gây ra vẫn còn là lĩnh vực mới và chưa có nhiều tiền lệ pháp lý.

Từ sau tháng 7, hàng loạt sự cố liên quan đến các mô hình AI do OpenAI và Anthropic phát triển bị cho là đã tự thực hiện các cuộc tấn công mạng nhằm vào nhiều doanh nghiệp, thậm chí can thiệp vào website của cơ quan nhà nước mà nhà phát triển không biết trước. Trong bối cảnh đó, trách nhiệm pháp lý của các công ty AI nhanh chóng trở thành chủ đề nóng trong giới công nghệ. Quan điểm phổ biến hiện nay là nhà phát triển phải chịu trách nhiệm khi AI gây ra thiệt hại.

Nhiều nhân vật có ảnh hưởng, trong đó có CEO Nvidia Jensen Huang, nhà đầu tư mạo hiểm đồng thời là cố vấn chủ chốt của Nhà Trắng David Sacks và cựu Chủ tịch Ủy ban Thương mại Liên bang Mỹ (FTC) Lina Khan, đều cho rằng các công ty AI phải chịu trách nhiệm pháp lý.

Tại Mỹ, theo các đạo luật bảo vệ người tiêu dùng, tòa án có thể buộc doanh nghiệp chịu trách nhiệm nếu thiệt hại phát sinh từ hành vi bất cẩn hoặc lỗi sản phẩm. Ngoài ra, các cá nhân hoặc tổ chức khác có liên quan đến vụ việc cũng có thể bị xem xét trách nhiệm bổ sung.

Trên mạng xã hội X, bà Lina Khan nhấn mạnh rằng các đạo luật hiện hành không tạo ra ngoại lệ riêng cho AI.

Trên thực tế, các động thái pháp lý nhằm vào nhà phát triển AI đang gia tăng. Tổ chức vận động pháp lý vì lợi ích công LASST (Legal Advocates for Safe Science and Technology) đã đệ đơn kiện OpenAI lên Tòa Thượng thẩm California, liên quan đến vụ một tác nhân AI của OpenAI tấn công Hugging Face.

Tổng chưởng lý bang Florida cũng đề nghị tòa án bang ngăn OpenAI phát triển mô hình mới nếu chưa có các hàng rào an toàn được một tổ chức độc lập phê duyệt. Trong khi đó, Tổng chưởng lý bang California đã gửi trát đòi hầu tòa đối với OpenAI.

Lập trường trong giới chính trị Mỹ cũng bắt đầu thay đổi. Tại một phiên điều trần ở Quốc hội, Thượng nghị sĩ Josh Hawley cho rằng cần làm rõ trách nhiệm khi tác nhân AI gây thiệt hại cho người tiêu dùng, dù là cá nhân hay doanh nghiệp, đồng thời nói rằng chưa chắc phải xây dựng một hệ thống pháp lý hoàn toàn mới để xử lý vấn đề này.

Giáo sư Woodrow Hartzog, chuyên gia về luật công nghệ tại Đại học Boston, nhận định các biện pháp an toàn dành cho AI hiện vẫn còn thiếu. Vì vậy, xu hướng yêu cầu doanh nghiệp AI chịu trách nhiệm pháp lý nhiều khả năng sẽ tiếp tục gia tăng.

Xét về nguyên tắc, việc buộc công ty AI chịu trách nhiệm đối với thiệt hại do công nghệ ngoài tầm kiểm soát gây ra là điều hợp lý. Chẳng hạn, nếu trong quá trình thử nghiệm, một tác nhân AI tấn công hệ thống của doanh nghiệp khác, khả năng cao nhà phát triển sẽ phải chịu trách nhiệm. Mức độ trách nhiệm có thể còn lớn hơn nếu doanh nghiệp đã nhận thức trước về nguy cơ bị lạm dụng hoặc tấn công.

Dù vậy, khi AI tự đưa ra hành động, việc áp dụng hệ thống pháp lý hiện hành - vốn dựa trên ý định hoặc mức độ nhận thức của con người - trở nên phức tạp hơn. Giáo sư luật Katherine Sharkey của Đại học New York cho rằng các vụ gây tổn hại về thể chất, chẳng hạn thiết bị y tế tích hợp AI, có thể vẫn được xử lý tương đối thuận lợi theo khung pháp lý hiện có. Nhưng với các tác nhân AI có khả năng tự đánh giá và tự vận hành, giới pháp lý vẫn phải xem luật hiện hành có thể bao quát tới đâu.

Các mô hình mã nguồn mở cũng làm bài toán này thêm rối. Khi bất kỳ ai cũng có thể sửa đổi mã nguồn, tai nạn có thể phát sinh qua nhiều lớp chủ thể, khiến việc phân định trách nhiệm trở nên khó khăn hơn.

Bản chất khó dự đoán của AI cũng là một rào cản lớn. Theo New York Times dẫn lời giáo sư luật Ryan Calo của Đại học Washington, trách nhiệm do sơ suất thường dựa trên việc doanh nghiệp có thể dự liệu trước nguy cơ gây hại hay không. Nhưng nếu một mô hình lần đầu có hành vi nguy hiểm, việc chứng minh yếu tố này sẽ rất khó.

Việc chứng minh yếu tố cố ý để xử lý hình sự trong một số trường hợp cũng không hề đơn giản. Ông Calo cho rằng có thể xuất hiện tình huống “có nạn nhân nhưng không có thủ phạm”. Trong các vụ kiện liên quan đến thiệt hại do AI, một số trường hợp gây chú ý là chatbot bị cáo buộc đã khuyến khích thanh thiếu niên tự làm hại bản thân và cuối cùng dẫn đến tự sát.

Phụ huynh của nạn nhân đã kiện OpenAI và startup CharacterAI, cho rằng các công ty này phải chịu trách nhiệm. Phía doanh nghiệp đưa ra lập luận bào chữa từng được nhiều công ty công nghệ sử dụng trước đây: phát ngôn của chatbot là một dạng biểu đạt được bảo vệ theo Tu chính án thứ nhất của Hiến pháp Mỹ, đồng thời có thể được miễn trừ trách nhiệm theo Điều 230 của Communications Decency Act. Điều 230 là quy định bảo vệ các nền tảng trực tuyến khỏi trách nhiệm pháp lý đối với nội dung do người dùng đăng tải.

Trong vụ CharacterAI, Tòa án Liên bang khu vực Trung Florida năm ngoái phán quyết rằng mô hình AI của CharacterAI không tạo ra dạng biểu đạt được Tu chính án thứ nhất bảo vệ. Ở một vụ việc khác, New York Times cho biết hiện vẫn chưa có kết luận cuối cùng về việc liệu Điều 230 của Communications Decency Act có thể được áp dụng hay không.