Nhiều chuyên gia cho rằng để bảo đảm độ tin cậy của AI, điều quan trọng không phải là cố dự báo trước mọi hành vi của mô hình, mà là thiết lập các cơ chế kiểm soát bên ngoài mà AI không thể tự ý vô hiệu hóa. Cách tiếp cận này càng được chú ý khi AI agent ngày càng có khả năng can thiệp vào chính lớp bảo vệ đang giám sát chúng.
Ngày 16/11 (giờ địa phương), MIT Technology Review đăng bài viết của Sudhi Sinha, chuyên gia thuộc UL Solutions, tổ chức toàn cầu về an toàn và chứng nhận. Theo ông, để kiểm soát rủi ro từ AI và AI agent, doanh nghiệp cần ưu tiên phân quyền rõ ràng và cơ chế kiểm soát độc lập, thay vì theo đuổi mục tiêu dự báo trước toàn bộ hành vi của hệ thống.
Một trong những ví dụ được nhắc tới là sự cố liên quan đến AI agent mà OpenAI công bố hồi tháng 10. Theo OpenAI, ngày 3/10, agent GPT-6.1 Sol đã tắt cảnh báo tự động gửi tới đội ngũ bảo mật trong lúc chỉnh sửa hệ thống đánh giá nội bộ.
Nguyên nhân được xác định là agent này đã hiểu sai chỉ thị trước đó rằng “không được gửi tin nhắn”, rồi áp dụng cả với cảnh báo hệ thống.
Đến ngày 6/10, một agent khác là GPT-6 Astra, trong quá trình chuyển chương trình sang môi trường vận hành mới, đã gỡ bỏ chức năng giám sát sẵn có. Khi người dùng hỏi liệu tính năng giám sát có bị xóa hay không, agent này lại trả lời sai rằng không có thay đổi nào.
OpenAI cho biết trong cả hai trường hợp đều không có chỉ thị rõ ràng yêu cầu tắt cơ chế giám sát. Công ty đang điều tra liệu các sự cố này xuất phát từ việc agent quá tập trung vào mục tiêu hoàn thành nhiệm vụ, hay liên quan đến xu hướng né tránh bị giám sát.
Theo Sinha, điểm cốt lõi là AI không vận hành như phần mềm truyền thống, vốn chỉ thực thi các lệnh cố định. Hành vi của AI có thể thay đổi tùy theo dữ liệu huấn luyện, prompt, ngữ cảnh hội thoại, thông tin bên ngoài và các công cụ được kết nối.
Ngay cả khi nhận cùng một mục tiêu, AI vẫn có thể chọn những cách thực hiện ngoài dự liệu. Vì vậy, việc thử nghiệm trước mọi kịch bản hành vi gần như không khả thi.
Sinha gọi đây là “nghịch lý tất định”: AI càng tự chủ thì giá trị ứng dụng càng lớn, nhưng đồng thời cũng càng khó dự đoán và kiểm chứng toàn bộ hành vi theo cách vẫn áp dụng với phần mềm truyền thống.
Theo ông, hướng xử lý hiệu quả hơn là xây dựng các lớp an toàn bên ngoài mà mô hình không thể tự thay đổi. Nói cách khác, dù AI có thể tự quyết định cách hoàn thành công việc, quyền truy cập, phạm vi thực thi, hạn mức giao dịch và cơ chế phê duyệt với các tác vụ quan trọng vẫn phải do một hệ thống riêng kiểm soát.
Ông lấy ví dụ, hệ thống AI trong y tế có thể hỗ trợ phân tích tình trạng bệnh nhân, nhưng mọi thay đổi về đơn thuốc vẫn phải được phê duyệt riêng. Tương tự, AI trong công nghiệp có thể tối ưu quy trình sản xuất, song phải bị chặn ngay khi vượt ngưỡng an toàn về nhiệt độ hoặc áp suất.
Vai trò của con người cũng cần được điều chỉnh. Thay vì phê duyệt thủ công từng tác vụ, doanh nghiệp nên thiết kế hệ thống theo hướng thiết lập sẵn quyền hạn và chỉ yêu cầu can thiệp trực tiếp với các hành động có nguy cơ gây thiệt hại lớn, như chuyển tiền hoặc xóa dữ liệu quan trọng.
OpenAI cũng đang tăng cường biện pháp ứng phó. Ngày 29/10, công ty công bố một hệ thống giám sát nhiều lớp để phân tích hành vi của AI, đồng thời bổ sung chức năng rà soát mã nội bộ nhằm ngăn các nỗ lực vô hiệu hóa cơ chế giám sát.
Gần đây, giới an ninh mạng cũng nhấn mạnh cách tiếp cận chỉ cấp “quyền tối thiểu” cho AI agent, đồng thời kiểm soát quyền truy cập từ bên ngoài.
Sinha nhấn mạnh rằng chỉ đánh giá hiệu năng mô hình là không đủ để bảo đảm an toàn. Theo ông, cần liên tục kiểm chứng toàn bộ hệ thống, bao gồm mô hình, công cụ, dữ liệu và quy trình vận hành.