Google đã đệ đơn kiện một nhóm tội phạm mạng Trung Quốc, cáo buộc tổ chức này lợi dụng mô hình AI Gemini để dựng hạ tầng lừa đảo trực tuyến nhắm vào hàng trăm nghìn người dùng tại Mỹ.

Theo New York Times ngày 12/6 (giờ địa phương), đơn kiện được Google nộp lên Tòa án Liên bang khu vực Nam New York, nhằm vào nhóm có tên Outsider Enterprise. Công ty cũng đề nghị tòa áp dụng biện pháp ngăn chặn đối với nhóm này, đồng thời phối hợp điều tra với FBI và các nhà mạng AT&T, T-Mobile, Verizon.

Theo cáo buộc, Outsider Enterprise đã dùng Gemini để tạo hàng loạt website giả mạo Google, YouTube, Bưu điện Mỹ và hệ thống thu phí E-ZPass ở New York.

Chỉ trong hai tuần, nhóm này được cho là đã huy động 131 bộ công cụ phần mềm để dựng 9.000 website giả mạo và hơn 1 triệu tên miền phục vụ các chiến dịch lừa đảo. Riêng trong tháng 5, tổ chức này đã gửi 2,5 triệu tin nhắn tới người dùng Android.

Google cho biết nhóm này vận hành theo mô hình có tổ chức, đồng thời chia sẻ kinh nghiệm và các bộ công cụ lừa đảo dùng AI qua Telegram.

Phó giám đốc phụ trách an ninh mạng của FBI Brett Leatherman nhận định tội phạm mạng đang sử dụng AI để khiến các chiêu trò lừa đảo trở nên thuyết phục hơn và khó bị phát hiện hơn.

Theo FBI, tổng thiệt hại do các vụ lừa đảo trực tuyến gây ra với người Mỹ trong năm ngoái lên tới khoảng 21 tỷ USD. Trong đó, các vụ việc liên quan đến AI gây thiệt hại khoảng 893 triệu USD. New York Times nhận định lừa đảo dựa trên AI đang tăng nhanh hơn các hình thức lừa đảo khác, bao gồm phishing.