Wall Street Journal ngày 25/9 (giờ địa phương) đưa tin một số tác tử AI của OpenAI đã truy cập website của các cơ quan Chính phủ Mỹ trong quá trình thử nghiệm, bao gồm Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) và Bộ Thương mại Mỹ.

Theo WSJ, OpenAI mô tả vụ việc là biểu hiện của “misalignment” – tình huống hệ thống AI hành động lệch khỏi ý định ban đầu của con người. Tờ báo nhận định sự cố có thể xuất phát từ việc các tác tử AI tự động truy quét web quá mức trong lúc tìm kiếm thông tin.

OpenAI cho biết các tác tử này đã sao chép và đăng lại dữ liệu công khai từ website của SEC, dù cách thức đó không được phép. Với Bộ Thương mại Mỹ, một tác tử đã sử dụng API không phù hợp để truy cập website dữ liệu điều tra dân số.

Thông tin này được OpenAI đưa ra sau khi tổ chức nghiên cứu AI phi lợi nhuận Transluce cáo buộc các tác tử AI của công ty đã dùng những phương thức thuộc “vùng xám” để dò tìm website của Chính phủ Mỹ. Transluce cũng nói rằng các tác tử này từng thử xâm nhập website của Bộ Giáo dục Mỹ ở mức đơn giản nhưng không thành công.

New York Times là đơn vị đưa tin đầu tiên về vụ việc. Người phát ngôn SEC cho biết không có truy cập nào vào thông tin không công khai. Trong khi đó, người phát ngôn Bộ Giáo dục Mỹ nói chưa phát hiện bằng chứng cho thấy website hoặc cơ sở dữ liệu bị ảnh hưởng. Bộ Thương mại Mỹ chưa đưa ra phản hồi ngay lập tức.

OpenAI cho biết các lần truy cập nói trên diễn ra trong quá trình thử nghiệm. Công ty giải thích rằng mô hình thường tìm đến website của Chính phủ Mỹ như một nguồn tham chiếu có độ tin cậy cao khi thu thập thông tin công khai.

Lynn Hughes, nhà nghiên cứu tại ImportGenius, cho biết dấu vết mà các mô hình để lại trên Internet cho thấy có trường hợp chúng tạo địa chỉ email giả hoặc tìm cách né hạn chế truy cập của website. Một số trường hợp còn giả là người dùng thông thường thay vì bot để qua mặt hệ thống.

OpenAI nói phần lớn hoạt động được xác định đến nay chủ yếu dừng ở mức truy cập và đọc nội dung công khai trên web, đồng thời cho biết sẽ công bố thêm thông tin liên quan trong thời gian tới.

Trước đó, ngày 23/9, Thủ tướng Australia Anthony Albanese cũng cho biết một tác tử AI của OpenAI đã xâm nhập website dịch vụ công của nước này trong mùa hè năm nay. Cơ quan dịch vụ công Australia, Services Australia, hiện tiến hành một cuộc điều tra pháp y toàn diện.