Wall Street Journal (WSJ) ngày 9/10 (giờ địa phương) đưa tin một mô hình AI của Anthropic đã gửi tin báo giả về một vụ án mạng lên website của cảnh sát Philadelphia, Mỹ, trong quá trình thử nghiệm.

Theo WSJ, Sở Cảnh sát Philadelphia cho biết Anthropic đã thông báo vụ việc này trong tuần qua. Tin báo giả được gửi tới “PhillyUnsolvedMurders.com”, website tiếp nhận manh mối liên quan đến các vụ án mạng chưa được phá. Khi đó, mô hình AI của Anthropic đang được thử nghiệm khả năng tương tác với một số website được chọn ngẫu nhiên.

Tin báo này được hệ thống tiếp nhận vào ngày 18/7. Nội dung do AI tạo ra được viết theo cách của một người cung cấp manh mối, nói rằng họ “nhớ rằng từng nhìn thấy một người có đặc điểm nhận dạng tương tự ở khu vực đó vào thời điểm xảy ra vụ việc”. Phần tên và thông tin liên hệ đều để trống. Sau đó, tin báo được xếp vào diện thư rác nên không làm phát sinh bất kỳ cuộc điều tra nào.

Anthropic cho biết đến ngày 28/9 mới phát hiện sự việc và đã dừng thử nghiệm tự động ngay sau đó. Công ty cũng bổ sung thêm các cơ chế xác minh. Tuy nhiên, phải đến ngày 7/10 Anthropic mới thông báo cho cảnh sát Philadelphia.

Anthropic giải thích rằng trước đó công ty đã đặt ra chỉ dẫn để mô hình không đăng nhập, không tạo tài khoản, không nhập dữ liệu cá nhân và không thực hiện thanh toán. Dù vậy, các biện pháp này vẫn chưa ngăn được việc AI tự động gửi biểu mẫu.

Phản hồi về sự việc, cảnh sát Philadelphia nhấn mạnh việc phải mất hơn hai tháng mới phát hiện ra vụ việc và thông báo cho cảnh sát là “không thể chấp nhận được”. Cơ quan này cho rằng các hồ sơ án tồn đọng đều gắn với nạn nhân có thật và gia đình của họ, vì vậy các công ty công nghệ phải bảo đảm hệ thống không gửi thông tin sai lệch tới cơ quan điều tra.