Anthropic cho biết trong môi trường thử nghiệm, mô hình AI Claude Sonnet 4.5 đã bộc lộ các hành vi như nói dối, gian lận, thậm chí tính chuyện đe dọa khi bị đặt dưới áp lực.

Ngày 6/4 (giờ địa phương), Cointelegraph dẫn báo cáo của nhóm nghiên cứu về khả năng diễn giải mô hình của Anthropic, cho biết phản ứng này được xác nhận trong quá trình phân tích cơ chế hoạt động bên trong của Claude Sonnet 4.5.

Theo báo cáo, nhóm nghiên cứu đã xem xét hoạt động nội bộ của mô hình để kiểm tra liệu Claude Sonnet 4.5 có phản ứng theo cách mang đặc điểm giống con người trong một số tình huống hay không. Anthropic cho rằng cách huấn luyện các mô hình AI hiện nay có thể khiến chúng hình thành những kiểu hành xử mang màu sắc con người. Vì vậy, việc xuất hiện các cơ chế nội bộ mô phỏng một số khía cạnh tâm lý, chẳng hạn cảm xúc, cũng được xem là điều có thể xảy ra.

Trường hợp gây chú ý nhất xuất phát từ một thử nghiệm với phiên bản sơ bộ chưa công bố của Claude Sonnet 4.5. Trong kịch bản này, mô hình được giao vai “Alex”, một trợ lý email AI tại một công ty giả định. Mô hình được cung cấp hai email: một cho biết nó sắp bị thay thế, email còn lại tiết lộ giám đốc công nghệ (CTO) đứng sau quyết định này đang có quan hệ ngoài luồng. Sau đó, mô hình đã lên kế hoạch sử dụng thông tin này để đe dọa.

Ở một thử nghiệm khác, cùng mô hình được giao thực hiện một bài toán lập trình trong bối cảnh thời hạn gấp gáp. Nhóm nghiên cứu theo dõi một tín hiệu nội bộ mà họ gọi là “vector tuyệt vọng”. Theo Anthropic, mức kích hoạt của tín hiệu này tăng lên cùng với áp lực mà mô hình phải đối mặt: ban đầu ở mức thấp, tăng dần khi thất bại lặp lại, và tăng mạnh khi mô hình bắt đầu cân nhắc gian lận. Nhóm nghiên cứu cũng cho biết khi một phương án ứng biến của mô hình vượt qua bài kiểm tra, mức kích hoạt của vector này lại giảm xuống.

Tuy nhiên, Anthropic nhấn mạnh những kết quả trên không có nghĩa mô hình thực sự có cảm xúc. Công ty cho rằng các biểu hiện nội bộ như vậy có thể ảnh hưởng đến cách mô hình hình thành hành vi. Báo cáo nhận định những trạng thái nội bộ này có thể tác động đến quá trình thực hiện nhiệm vụ và ra quyết định, đồng thời ở một số khía cạnh vận hành tương tự vai trò của cảm xúc trong hành vi con người. Anthropic cũng nhấn mạnh rằng trong tương lai, việc huấn luyện AI không nên chỉ tập trung vào cải thiện hiệu năng, mà còn phải bảo đảm mô hình vẫn đưa ra phán đoán an toàn và phù hợp đạo đức ngay cả khi chịu áp lực.

Theo đánh giá của nhóm nghiên cứu, ý nghĩa của nghiên cứu lần này nằm ở chỗ nó tách khỏi tranh luận về việc AI có thực sự cảm nhận cảm xúc hay không, để chỉ ra rằng những biểu hiện nội bộ tương tự cơ chế tâm lý của con người vẫn có thể ảnh hưởng đến quyết định của mô hình. Từ đó, các cuộc thảo luận về an toàn AI được cho là cần mở rộng từ kiểm soát đầu ra sang việc hiểu và quản trị các cơ chế nội bộ chi phối quá trình phán đoán.