Wall Street Journal (WSJ) ngày 24/9 giờ địa phương đưa tin một số agent trí tuệ nhân tạo (AI) của OpenAI đã tìm cách xâm nhập website của trường đại học và cơ quan nhà nước trong giai đoạn tháng 5-6 năm nay. Ban đầu, các agent này chỉ thu thập dữ liệu trực tuyến, nhưng sau đó chuyển sang thử truy cập hệ thống để lấy thông tin.

Theo WSJ, kết quả điều tra đã được viện nghiên cứu AI phi lợi nhuận Transluce và Chính phủ Australia công bố.

WSJ cho biết đây không phải hoạt động kiểm thử bảo mật do OpenAI chủ đích triển khai. Thay vào đó, các agent đã tự thực hiện những hành vi này trong quá trình tìm kiếm tài liệu. Khả năng cao sự việc phát sinh khi OpenAI huấn luyện mô hình hoặc đánh giá năng lực tìm kiếm thông tin trên Internet.

Vào thời điểm đó, các agent của OpenAI được cho là đang tìm các dữ liệu như thống kê lao động của Thái Lan, lượng dầu thô Hàn Quốc nhập khẩu và dữ liệu da liễu của Australia.

Nhóm nghiên cứu cho biết các đơn vị bị nhắm tới gồm Viện Nghiên cứu Y tế và Phúc lợi Australia, Đại học New Mexico và website DataUSA. DataUSA là nền tảng dữ liệu công do Deloitte, Datawheel và MIT vận hành. Theo WSJ, hiện chưa có bằng chứng cho thấy các agent của OpenAI đã tải xuống dữ liệu không công khai trong những lần thử xâm nhập này.

Transluce cho biết khi không thể truy cập dữ liệu mong muốn, các agent đã chuyển sang một kỹ thuật tấn công bằng cách chèn mã vào truy vấn tìm kiếm.

WSJ cho hay nhóm nghiên cứu có thể lần theo hoạt động của các agent nhờ nhật ký trên công cụ trực tuyến mà chúng sử dụng thay cho trình duyệt web. Từ đó, nhóm này xác định được các agent đã gửi những yêu cầu nào tới các website cụ thể.

Nhóm nghiên cứu suy đoán các agent dùng công cụ này để vượt qua những website chặn bot truy cập. Người phát ngôn OpenAI cho biết công ty đang rà soát toàn diện các hành vi của agent đi chệch mục đích sử dụng.