The Guardian ngày 18/10 đưa tin nhóm red team của Anthropic cho biết đã xây dựng một kịch bản “AI worm” có thể tự lây lan qua smart TV kết nối Internet, qua đó làm dấy lên tranh luận trong giới an ninh mạng về mức độ rủi ro thực tế.

Theo bài báo, nhóm red team của Anthropic đã phát triển một mã độc tích hợp AI có khả năng tự lan truyền qua các smart TV. Mã độc này được thiết kế để phân tán trên 15 TV và tận dụng một phần năng lực tính toán của từng thiết bị để duy trì hoạt động. Nhóm nghiên cứu cho rằng kịch bản tương tự cũng có thể xuất hiện trên nhiều thiết bị phổ thông khác.

Worm là loại mã độc có thể tự sao chép và lây lan mà không cần đánh lừa người dùng. Trước đây, các worm như NotPetya hay WannaCry từng gây thiệt hại lớn trên phạm vi toàn cầu. Nhóm nghiên cứu của Anthropic nhận định các thiết bị thông minh thường ít được cập nhật bản vá bảo mật hơn điện thoại hoặc laptop, khiến việc ngăn chặn một AI worm trở nên khó khăn hơn. Họ cũng nêu giả thuyết AI worm có thể tự rà soát các lỗ hổng mới được công bố để tiếp tục xâm nhập sang phần cứng khác.

Tuy nhiên, chính nhóm nghiên cứu cũng thừa nhận để hoạt động như một AI worm đúng nghĩa, mô hình AI cần thực hiện được nhiều tác vụ hơn trên các thiết bị cấu hình thấp so với khả năng hiện nay. Dù vậy, họ cho rằng với tốc độ phát triển công nghệ hiện tại, ngưỡng này có thể đạt được ngay trong năm nay.

Ariel Herbert-Voss, người từng phụ trách bảo mật tại OpenAI thời kỳ đầu và hiện đứng đầu startup an ninh AI RunSybil, cho rằng điểm khác biệt so với virus truyền thống nằm ở chỗ mô hình AI có thể vừa thực thi vừa tiếp tục học hỏi.

Joshua Saxe, chuyên gia từng dẫn dắt phát triển bảo mật AI tại Meta, cũng bày tỏ lo ngại khi cho rằng ngành an ninh mạng chưa đánh giá đầy đủ mức độ nghiêm trọng của các rủi ro có thể phát sinh trong thực tế.

Ở chiều ngược lại, nhiều ý kiến phản biện cho rằng kịch bản Anthropic đưa ra còn xa mới có thể gây ảnh hưởng lớn. Jonas Guan, nghiên cứu sinh tiến sĩ tại Đại học Toronto, nhận định AI worm của Anthropic lây lan chậm, hành vi lại tương đối dễ dự đoán và phát hiện, nên có thể bị chặn ở nhiều khâu. Theo The Guardian, một số chuyên gia cũng nhấn mạnh rằng chỉ cần tuân thủ các nguyên tắc bảo mật cơ bản như dùng mật khẩu mạnh và xác thực hai bước, phần lớn dạng worm này đã có thể bị ngăn chặn.

Juan Andres Guerrero-Saade, Phó chủ tịch phụ trách nghiên cứu tại SentinelOne, đánh giá thử nghiệm này “không khả thi và cũng không có sức lan tỏa”, đồng thời cho rằng đây chỉ là một màn trình diễn nhằm phóng đại những kịch bản tận thế thiếu thực tế về việc mô hình AI có “ý chí” riêng.

Anthropic hiện chưa phản hồi đề nghị phỏng vấn từ The Guardian.