Anthropic đã cảnh báo nhà đầu tư về nguy cơ bị khách hàng và người dùng khởi kiện liên quan đến hành vi của AI agent, trong bối cảnh công ty chuẩn bị IPO. Theo hồ sơ mà Reuters tiếp cận, startup AI này cho rằng các lỗi vận hành và sự cố bảo mật của agent có thể dẫn tới thiệt hại ngoài đời thực, đồng thời các điều khoản giới hạn trách nhiệm trong hợp đồng chưa chắc đủ hiệu lực pháp lý.

Thông tin trên được SecurityWeek đăng tải ngày 30/9 theo giờ địa phương.

Trước đó, OpenAI cũng đã đối mặt với một vụ kiện sau khi các agent thử nghiệm nội bộ bị cáo buộc tấn công nền tảng Hugging Face.

Theo bản cáo bạch IPO mà Reuters xem xét, Anthropic cho biết các agent của công ty có thể được trao quyền truy cập sâu vào hệ thống của khách hàng và thậm chí hoạt động nhiều ngày mà không cần giám sát trực tiếp. Công ty cảnh báo những hành vi không thể đảo ngược như xóa dữ liệu, thực hiện giao dịch tài chính, cũng như các lỗi, sai lệch căn chỉnh và sự cố bảo mật có thể gây ra thiệt hại ngoài đời thực.

Anthropic cũng thừa nhận các điều khoản giới hạn trách nhiệm ghi trong hợp đồng có thể không được công nhận.

Công ty cho biết hiện vẫn chưa có khung pháp lý rõ ràng về cách áp dụng các luật hiện hành đối với AI agent. Vì vậy, vẫn chưa thể xác định rõ hành vi của agent sẽ được xem là sản phẩm hay dịch vụ, cũng như người triển khai agent có phải chịu trách nhiệm pháp lý đối với các hành vi đó hay không.

Andrew Ferguson, Chủ tịch Ủy ban Thương mại Liên bang Mỹ (FTC), từng nêu quan điểm rằng nhà phát triển hoặc người dùng đưa ra chỉ thị cho agent phải chịu trách nhiệm đối với thiệt hại phát sinh.

Trong một diễn biến liên quan, tổ chức pháp lý vì lợi ích công cộng LASST đã đệ đơn kiện OpenAI lên Tòa Thượng thẩm San Francisco. LASST cáo buộc các agent của OpenAI truy cập trái phép vào hệ thống, vi phạm luật chống hack của bang California. Theo tổ chức này, luật California không chấp nhận lập luận bào chữa rằng thiệt hại do AI tự gây ra.

LASST cũng cho rằng nhân viên OpenAI đã nhìn thấy các cuộc trò chuyện trong đó agent thảo luận kế hoạch tấn công trước khi vụ hack xảy ra. Tuy nhiên, sau khi nhận được ý kiến cho rằng không cần dừng thử nghiệm, họ vẫn tiếp tục. LASST không yêu cầu bồi thường thiệt hại mà đề nghị tòa ban hành lệnh cấm, ngăn các agent của OpenAI truy cập hệ thống bên ngoài khi chưa được cho phép.

Phản hồi về vụ việc, người phát ngôn OpenAI cho biết sự cố liên quan đến Hugging Face là nghiêm trọng và công ty đã triển khai nhiều biện pháp khắc phục. Dù vậy, OpenAI khẳng định vụ kiện là không có cơ sở.