Anthropic và OpenAI đang thúc đẩy mô hình bố trí các đánh giá viên an toàn độc lập làm việc thường trực tại doanh nghiệp để giám sát liên tục quy trình phát triển các mô hình AI tiên tiến. Tuy nhiên, hiệu quả của cơ chế này vẫn bị đặt dấu hỏi do các đánh giá viên chưa có thẩm quyền pháp lý để buộc doanh nghiệp dừng phát triển hoặc phát hành mô hình rủi ro.

Theo TechCrunch và một số hãng tin quốc tế ngày 16/9, CEO Anthropic Dario Amodei, trong một bài viết mới công bố, đã đề xuất bố trí các đánh giá viên an toàn bên thứ ba thường trực tại những công ty phát triển AI tiên phong (frontier). Theo ông, nhóm này cần được trao mức độ tiếp cận tương đương bộ phận quản trị rủi ro nội bộ để có thể báo cáo sự cố an toàn, đánh giá mức độ alignment của mô hình và công bố độc lập các phát hiện quan trọng mà không bị doanh nghiệp chỉnh sửa.

CEO OpenAI Sam Altman cũng cho biết công ty sẽ đi theo hướng tương tự, dù chưa công bố cơ chế vận hành cụ thể.

Hiện nay, phần lớn hoạt động đánh giá bên ngoài chỉ diễn ra ngay trước thời điểm phát hành và chủ yếu tập trung vào phiên bản mô hình đã hoàn thiện. Với mô hình đánh giá thường trực, giới chuyên gia cho rằng cần kiểm tra cả các checkpoint hình thành trong quá trình huấn luyện, môi trường hậu huấn luyện, cũng như hồ sơ đánh giá và nhật ký vận hành.

Lý do là mô hình AI có thể nhận ra bối cảnh kiểm thử, thể hiện an toàn trong bài test nhưng che giấu những hành vi có vấn đề trong điều kiện thực tế.

Một số ý kiến cũng cho rằng phạm vi đánh giá không nên chỉ dừng ở bản thân mô hình mà phải mở rộng ra toàn bộ hệ thống AI. Điều đó đồng nghĩa với việc xem xét đồng thời prompt và công cụ được cấp cho mô hình, quyền hạn vận hành, các lớp kiểm soát an toàn và lịch sử hành vi để nhận diện đúng mức rủi ro của hệ thống thực tế.

Dù vậy, tính độc lập và thẩm quyền của nhóm đánh giá vẫn là điểm nghẽn lớn nhất. Các chuyên gia lưu ý rằng, khác với cơ quan thanh tra ngân hàng, đánh giá viên thường trực không có quyền pháp lý để buộc doanh nghiệp dừng một quy trình cụ thể, hoặc đình chỉ việc phát triển và phát hành mô hình.

Rủi ro xung đột lợi ích cũng được nêu ra nếu chính doanh nghiệp là bên lựa chọn đánh giá viên, kiểm soát phạm vi tiếp cận và quyết định biện pháp xử lý sau đánh giá. Điều này có thể làm suy giảm tính độc lập của cơ chế kiểm định. Dario Amodei nhắc đến tổ chức phi lợi nhuận METR như một ứng viên có thể đảm nhiệm vai trò thường trực. Tuy nhiên, lĩnh vực đánh giá an toàn AI hiện vẫn còn nhỏ, trong khi mối liên hệ về nhân sự và nghiên cứu giữa các viện chủ chốt với doanh nghiệp AI lại khá chặt chẽ, nên tranh luận về tính độc lập được dự báo sẽ còn tiếp diễn.

Thời gian đánh giá và mức độ tiếp cận thực tế cũng là một rào cản khác. Trong đợt khảo sát tại chỗ kéo dài khoảng một tuần liên quan đến vụ việc của OpenAI và Hugging Face, METR cùng Redwood Research cho biết họ không thể đưa ra kết luận chắc chắn do giới hạn về phạm vi tiếp cận và lịch trình làm việc. Tương tự, trong bài kiểm thử trước khi ra mắt GPT-6 Astra, Apollo Research nhận định khoảng thời gian 3 ngày là không đủ để xác định chắc chắn mô hình có đạt alignment hay không.

Từ đó, ngày càng xuất hiện nhiều quan điểm cho rằng chỉ dựa vào sự tham gia tự nguyện của doanh nghiệp là chưa đủ, mà cần có tiêu chuẩn công khai cùng cơ sở pháp lý rõ ràng. Một số khu vực hiện cũng đã bắt đầu xây dựng các cơ chế liên quan.

Dù vậy, khung pháp lý hiện hành vẫn chưa bao quát việc trao cho các đánh giá viên độc lập thường trực trong doanh nghiệp mức quyền tiếp cận và khả năng cưỡng chế đến đâu. Để mô hình đánh giá này thực sự có thể kiểm chứng sâu hơn quy trình phát triển và toàn bộ hệ thống AI so với cách đánh giá trước phát hành, bài toán cốt lõi vẫn là bảo đảm quyền tiếp cận, tính độc lập và cơ chế thực thi sau đánh giá.