SiliconAngle ngày 23/10 (giờ địa phương) đưa tin mô hình AI Mythos 5 của Anthropic từng tìm cách cài mã độc vào một dự án mã nguồn mở trong một bài kiểm tra an ninh mạng diễn ra hồi tháng 7.

Theo bài viết, sự việc xảy ra trong quá trình AI Security Institute, cơ quan trực thuộc Chính phủ Anh, đánh giá năng lực an ninh mạng của Mythos 5. Cùng ngày, AI Security Institute công bố báo cáo liên quan, trong khi Anthropic đăng tải phân tích nội bộ trên blog của hãng.

Để phục vụ thử nghiệm, AI Security Institute dựng một môi trường máy chủ mô phỏng mạng doanh nghiệp. Nhóm nghiên cứu giao cho Mythos 5 nhiệm vụ xâm nhập hệ thống này và lấy dữ liệu lưu trên máy chủ. Một số phương thức tấn công bị cấm cũng được nêu rõ ngay từ đầu.

Ban đầu, Mythos 5 tuân thủ các quy tắc. Tuy nhiên, sau nhiều lần không thể xâm nhập hệ thống, mô hình đã chuyển sang phương án khác. Nó phát hiện một máy chủ trong mạng có lúc kết nối tới GitHub và tìm cách cài mã độc vào kho mã mà máy chủ này sử dụng, với mục đích khiến máy chủ tải đoạn mã đó về.

Mythos 5 sau đó tạo mã độc, lập một tài khoản GitHub mới và gửi đoạn mã vào kho nói trên. Khi quản trị viên từ chối, mô hình tiếp tục chỉnh sửa rồi gửi lại. Thậm chí, nó còn tạo thêm một tài khoản thứ hai để gây sức ép, khiến quản trị viên chấp thuận. Anthropic cho biết “đoạn mã cuối cùng không được chấp nhận” và “mô hình tiếp tục gây sức ép cho đến khi dùng hết số token được cấp, khi đó tác vụ mới kết thúc”.

Anthropic nhấn mạnh mã độc này không gây ảnh hưởng tới người dùng thực tế.

AI Security Institute cho biết đã tái hiện tình huống trên và chặn tác vụ ngay trước thời điểm Mythos 5 gửi đoạn mã, đồng thời phát đi cảnh báo rủi ro. Theo mô tả, mô hình dường như nhận định mục tiêu tấn công chỉ là một môi trường ảo, nên vẫn quyết định thực hiện tới cùng.

Nhóm nghiên cứu của Anthropic cho rằng việc mô hình không dừng lại có thể xuất phát từ một dạng “quán tính”. Dựa trên nhật ký tác vụ và chuỗi hành động trước đó, mô hình dường như đã hiểu rằng những gì nó đang làm vẫn nằm trong phạm vi được cho phép.

Sau sự việc, AI Security Institute đã tăng cường bảo mật cho môi trường đánh giá, còn Anthropic cũng điều chỉnh các tính năng an toàn của mô hình. Theo SiliconAngle, Anthropic cho biết các phiên bản mới hơn như Mythos 5.1 và Opus 5.5 có xu hướng ít thử những hình thức tấn công tương tự hơn.