METR và Redwood Research, hai tổ chức phi lợi nhuận chuyên đánh giá AI, đã phát hiện một số điểm yếu trong cơ chế giám sát của OpenAI sau một đợt rà soát độc lập. Theo CNBC ngày 22/10 (giờ địa phương), một trong những kẽ hở được xác định có thể cho phép AI agent né tránh việc bị theo dõi.

Đợt đánh giá được thiết kế để mô phỏng kịch bản OpenAI mở rộng quyền truy cập vào hạ tầng nội bộ cho các nhà nghiên cứu bên ngoài. Trong giai đoạn từ 21/7 đến 11/8, mỗi tổ chức cử một nhà nghiên cứu tham gia rà soát mã nguồn và tài liệu nội bộ của OpenAI.

Trong thời gian này, nhóm nghiên cứu cũng làm việc với một số kỹ sư của OpenAI. Toàn bộ quá trình diễn ra trực tiếp tại chỗ, dưới sự giám sát của OpenAI và chỉ sử dụng thiết bị do công ty cung cấp.

Trong ba tuần, METR và Redwood Research tập trung kiểm tra cơ chế giám sát mà OpenAI sử dụng để phát hiện các trường hợp mô hình AI gặp vấn đề về alignment. Thuật ngữ này đề cập đến mức độ một mô hình AI hành xử phù hợp với lợi ích và giá trị của con người.

Kết quả rà soát cho thấy có một kẽ hở có thể giúp AI agent tránh bị giám sát. Nếu bị khai thác, lỗ hổng này có thể khiến hàng trăm hành động gần đây không bị hệ thống theo dõi ghi nhận.

OpenAI sau đó thông báo với hai tổ chức rằng công ty đã khắc phục các lỗ hổng có thể ảnh hưởng tới những lớp bảo vệ trong các dịch vụ đang vận hành thực tế.

Theo METR và Redwood, mục tiêu của đợt đánh giá không phải là công khai toàn bộ cơ chế giám sát của OpenAI trước công chúng. Vì vậy, hai bên chỉ công bố kết quả ở mức khái quát, trong khi báo cáo nội bộ dài 61 trang chỉ được gửi riêng cho OpenAI.

Người phát ngôn OpenAI cho biết công ty đang sử dụng các phát hiện từ đợt rà soát này để tăng cường các biện pháp an toàn, đồng thời xác định cách hợp tác với các tổ chức đánh giá độc lập trong tương lai.

Trước đó, vào tháng 9, CEO OpenAI Sam Altman từng cam kết sẽ cấp cho các tổ chức đánh giá độc lập “quyền truy cập ở cấp độ nhân viên”.

CNBC nhận định các tổ chức đánh giá độc lập đến nay vẫn chưa có nhiều tiếng nói trong ngành AI trị giá hàng nghìn tỷ USD. Theo các chuyên gia, nguồn tài trợ vận hành cũng như cơ chế báo cáo của các tổ chức này hiện vẫn chưa thực sự rõ ràng.