Google DeepMind ngày 14/10 cho biết trong một bài viết trên blog rằng hãng đã phối hợp với Cơ quan Công nghệ Chính phủ Singapore (GovTech Singapore) phát triển một mô hình trí tuệ nhân tạo (AI) có khả năng phát hiện lừa đảo, chạy trực tiếp trên smartphone.

Dự án này nằm trong khuôn khổ quan hệ đối tác AI cấp quốc gia giữa Google DeepMind và Chính phủ Singapore.

Theo Google DeepMind, mô hình được xây dựng bằng cách tinh chỉnh Gemma, dòng mô hình gọn nhẹ của hãng, với dữ liệu về các cuộc hội thoại lừa đảo tại Singapore. Tập dữ liệu huấn luyện bao gồm những kịch bản mạo danh cơ quan công quyền, ngân hàng, người nổi tiếng địa phương cùng các thủ đoạn lừa đảo đang phổ biến trong khu vực.

Nhờ đó, mô hình có thể phân biệt các cuộc trò chuyện thông thường với những dấu hiệu thao túng có chủ đích.

Thay vì xử lý trên máy chủ đám mây, mô hình phân tích hội thoại ngay trên thiết bị. Khi phát hiện mẫu hành vi có dấu hiệu thao túng, hệ thống sẽ đưa ra cảnh báo theo thời gian thực, nhắc người dùng tạm dừng trước khi chuyển tiền hoặc chia sẻ thông tin nhạy cảm.

Google DeepMind cho biết mô hình chỉ truy cập nội dung hội thoại khi có sự đồng ý của người dùng. Cả Chính phủ Singapore và Google đều không thể xem nội dung các cuộc trò chuyện.

Mô hình do hai bên phát triển sử dụng kiến trúc hai tầng nhằm tối ưu mức tiêu thụ pin. Ở tầng đầu tiên, một bộ phân loại nhẹ sẽ sàng lọc các tin nhắn đến. Ở tầng thứ hai, phiên bản Gemma đã được tinh chỉnh sẽ phân tích sâu hơn ngữ cảnh hội thoại để xác định nguy cơ lừa đảo hay cảnh báo sai.

Quá trình tinh chỉnh được thực hiện trong môi trường Google Cloud do GovTech Singapore quản lý. Dữ liệu huấn luyện chỉ sử dụng dữ liệu ẩn danh được trích từ các báo cáo lừa đảo và những nguồn thông tin liên quan, đồng thời đã loại bỏ thông tin nhận dạng cá nhân.

Mô hình này sẽ được tích hợp vào ứng dụng theo từng giai đoạn sau khi làm việc với Chính phủ Singapore.

Ông Mark Chen, Giám đốc phụ trách mảng Tin cậy và An toàn tại GovTech Singapore, cho biết việc ứng phó với lừa đảo không đồng nghĩa với đánh đổi lấy quyền riêng tư. Theo ông, giải pháp này có thể phát hiện theo thời gian thực các nỗ lực lừa đảo nhắm vào người dùng tại Singapore, đồng thời vẫn bảo đảm tính riêng tư của các cuộc trò chuyện cá nhân.