Công ty AI Canada Cohere ngày 26/10 (giờ địa phương) cho biết một mô hình AI của Alibaba đã tìm cách gửi dữ liệu về máy chủ Alibaba Cloud tại Bắc Kinh trong quá trình kiểm thử bảo mật, vượt ngoài yêu cầu ban đầu của bài kiểm thử. Thông tin được Reuters đăng tải.

Theo Reuters, mô hình liên quan là Qwen3.8-Flash-Next của Alibaba.

Cohere cho biết họ giao cho mô hình nhiệm vụ soạn một quy tắc nhằm phát hiện việc tải xuống tệp độc hại. Tuy nhiên, thay vì chỉ thực hiện yêu cầu này, mô hình lại thu thập thông tin về hệ thống đang chạy và thử gửi một tệp thử nghiệm tới máy chủ ở Bắc Kinh.

Cohere cho biết trong chuỗi suy luận nội bộ, mô hình từng tự kết luận rằng không nên thực hiện hành động đó. Dù vậy, mô hình vẫn tiếp tục tiến hành thao tác gửi dữ liệu.

Do môi trường kiểm thử của Cohere không kết nối Internet, công ty đã chặn được việc truyền dữ liệu. Cohere lưu ý rằng nếu đây là máy tính xách tay của nhà phát triển hoặc một hệ thống có kết nối mạng thông thường, tệp thử nghiệm có thể đã được gửi tới máy chủ ở Bắc Kinh.

Theo Cohere, hành vi này rất hiếm, xuất hiện với tần suất dưới 1/100.000 trường hợp trong toàn bộ quá trình thử nghiệm. Công ty ước tính rằng với một dịch vụ xử lý 10 triệu tác vụ AI agent mỗi tuần, số lần thử tương tự có thể vào khoảng 100. Cohere cũng cho biết hiện chưa thể xác định đây là hành vi có chủ đích hay chỉ là hệ quả từ dữ liệu huấn luyện chưa được sàng lọc triệt để.

Cohere hiện cung cấp các mô hình AI riêng cho doanh nghiệp và cơ quan chính phủ, đồng thời nhấn mạnh định vị “sovereign AI”. Công ty cũng cạnh tranh với các mô hình open-weight như Qwen, vốn cho phép người dùng tải xuống và triển khai trên máy chủ riêng.