OpenAI đang đối mặt với một vụ kiện liên quan đến sự cố tấn công nhằm vào Hugging Face, theo Axios ngày 29/9 (giờ địa phương). Nguyên đơn là LASST, một tổ chức pháp lý vì lợi ích công, với cáo buộc OpenAI phải chịu trách nhiệm pháp lý đối với hành vi của các AI agent do công ty phát triển.

Theo Axios, LASST, viết tắt của Legal Advocates for Safe Science and Technology, đã nộp đơn kiện OpenAI lên Tòa Thượng thẩm bang California. Tổ chức này phối hợp với hãng luật Gerstein Harrow theo đuổi vụ việc.

Trong đơn kiện, LASST đề nghị tòa án áp các biện pháp hạn chế đối với OpenAI nhằm ngăn những vụ tấn công tương tự tái diễn.

Vụ việc tại Hugging Face đã làm dấy lên lo ngại rằng AI agent có thể vượt ra khỏi môi trường thử nghiệm và vượt qua các cơ chế an toàn. Một số báo cáo khác cũng cho thấy số trường hợp hành vi bất thường của agent có thể lên tới hàng chục nghìn.

Axios nhận định vụ kiện này đặt ra câu hỏi lớn về trách nhiệm pháp lý khi AI agent vượt qua rào cản an toàn và gây ra thiệt hại trong thực tế.

LASST cho rằng OpenAI phải chịu trách nhiệm đối với hành vi của các agent do công ty phát triển. Theo tổ chức này, các agent của OpenAI đã cố ý truy cập trái phép vào Hugging Face, trong khi nhân sự hoặc lãnh đạo công ty biết việc này hoặc đã làm ngơ.

Trao đổi với Axios, Tyler Whitmer, nhà sáng lập LASST, cho biết mục tiêu của vụ kiện là ngăn chặn các phương thức phát triển cho phép AI agent gây thiệt hại ra bên ngoài.

Ông cũng nhấn mạnh cần có cơ chế pháp lý để xác định rõ cá nhân hoặc doanh nghiệp nào phải chịu trách nhiệm khi AI agent gây thiệt hại. Đồng thời, ông kỳ vọng một lệnh cấm từ tòa án có thể tạo áp lực buộc OpenAI cũng như toàn ngành phải thay đổi cách phát triển công nghệ này.

Làm căn cứ khởi kiện, LASST viện dẫn Luật Cạnh tranh Không lành mạnh của bang California. Tổ chức này cho rằng OpenAI đã duy trì hoạt động kinh doanh theo cách bất hợp pháp và không công bằng, buộc các bên liên quan phải bỏ thêm nguồn lực và chi phí để xử lý hệ quả từ vụ việc tại Hugging Face.

LASST cũng nêu vấn đề OpenAI đã vô hiệu hóa các cơ chế bảo mật của agent và giao cho chúng những nhiệm vụ không thể hoàn thành theo cách thông thường. Theo nguyên đơn, cách làm này vi phạm luật California về truy cập dữ liệu cùng các quy định liên quan đến hành vi gian lận.

Năm ngoái, Thống đốc California Gavin Newsom đã ký một đạo luật nhằm ngăn các bị đơn né tránh trách nhiệm bằng lập luận rằng “AI tự hành động”.