Một nghiên cứu mới cho thấy trí tuệ nhân tạo có thể lần ra danh tính thật của các tài khoản ẩn danh hoặc dùng tên giả chỉ bằng cách phân tích bài đăng công khai, kết hợp tìm kiếm trên web và suy luận từ các dữ kiện rời rạc.

Theo Decrypt (ngày 24/9), nghiên cứu này làm nổi lên một rủi ro mới đối với quyền riêng tư trực tuyến: không cần hack hay xảy ra rò rỉ dữ liệu, AI vẫn có thể ghép nối thông tin công khai để xác định một cá nhân cụ thể.

Nhóm nghiên cứu hồi tháng 2 đã công bố bài báo có tiêu đề “Large-Scale Online Deanonimization with Large Language Models”. Nghiên cứu có sự tham gia của ETH Zurich, tổ chức nghiên cứu an toàn AI MATS và các nhà nghiên cứu thuộc Anthropic.

Theo bài báo, nhóm đã xây dựng một quy trình tự động gồm 4 bước: trích xuất thông tin, tìm kiếm, suy luận và hiệu chỉnh. Hệ thống trước tiên rút ra các manh mối liên quan đến danh tính từ bài đăng, sau đó tìm các ứng viên phù hợp trên web, tiếp tục đối chiếu bằng mô hình AI mạnh hơn rồi đánh giá lại mức độ tin cậy để hạn chế nhận diện nhầm.

Ở bước trích xuất, hệ thống tổng hợp các dữ kiện như nơi sinh sống, nghề nghiệp, sở thích hay kinh nghiệm từ các bài đăng ẩn danh. Sang bước tìm kiếm, những dữ kiện này được chuyển thành embedding để truy tìm các hồ sơ có mức độ tương đồng về ngữ nghĩa.

Đến bước suy luận, một mô hình AI mạnh hơn sẽ so sánh từng ứng viên với các manh mối đã trích xuất để kiểm tra mức độ trùng khớp với hồ sơ thực. Bước hiệu chỉnh sau đó dùng để ước lượng độ tin cậy của kết quả, qua đó giảm nguy cơ xác định sai người.

Để đo hiệu năng, nhóm đã thử nghiệm trên 338 người dùng của cộng đồng công nghệ Hacker News. Đây là các tài khoản vốn đã gắn hồ sơ LinkedIn thật trong phần giới thiệu. Từ đó, nhóm tạo lại hồ sơ bằng cách loại bỏ các thông tin nhận dạng trực tiếp như tên, tên tài khoản và URL cá nhân, rồi yêu cầu AI agent tìm lại danh tính qua tìm kiếm trên web.

Kết quả cho thấy AI xác định đúng danh tính của 226 trong số 338 người dùng. Tỷ lệ thu hồi đạt 67%, trong khi độ chính xác của các kết quả được hệ thống đưa ra vào khoảng 90%. Nói cách khác, AI không thể tìm ra tất cả danh tính, nhưng cứ 10 trường hợp mà hệ thống cho là đã xác định được thì có khoảng 9 trường hợp là chính xác.

Ở một thử nghiệm khác, nhóm sử dụng bộ dữ liệu phỏng vấn các nhà khoa học do Anthropic công bố. Tài liệu này gồm bản ghi phỏng vấn 125 nhà khoa học về việc sử dụng AI và kinh nghiệm nghiên cứu. Từ một phần nội dung phỏng vấn, nhóm ước tính có thể nhận diện được danh tính thật của ít nhất 9 người.

Đáng chú ý, quá trình này không đòi hỏi kỹ thuật tấn công mạng hay quyền truy cập vào cơ sở dữ liệu cá nhân. Nhóm chỉ sử dụng thông tin có sẵn trên các website công khai, sau đó để AI tóm tắt, đối chiếu và suy luận. Chi phí vận hành AI agent cho mỗi hồ sơ vào khoảng 1-4 USD, còn tổng chi phí thử nghiệm dưới 2.000 USD.

Dù vậy, nhóm nghiên cứu nhấn mạnh kết quả này không đồng nghĩa AI có thể ngay lập tức làm lộ danh tính của mọi tài khoản ẩn danh trên Internet. Để đánh giá hiệu năng, họ phải xây dựng bộ dữ liệu có thể kiểm chứng được danh tính thật. Riêng với thử nghiệm trên Hacker News, điểm xuất phát là những tài khoản đã chủ động liên kết với LinkedIn trước đó, sau đó nhóm mới xóa thông tin nhận dạng trực tiếp và yêu cầu hệ thống tìm lại.

Nhóm cũng thừa nhận trong bài báo rằng cách đánh giá như vậy có thể tạo ra điều kiện “dễ nhận diện” hơn so với các tài khoản dùng tên giả thông thường.

Hiệu năng của hệ thống cũng giảm khi quy mô tập ứng viên tăng lên. Khi mở rộng số ứng viên lên tối đa 89.000 người, tỷ lệ thu hồi của phương pháp suy luận mạnh nhất, tại ngưỡng độ chính xác 90%, giảm còn khoảng 55%. Nhóm nghiên cứu cho rằng hiệu năng có thể tiếp tục đi xuống nếu quy mô ứng viên lớn hơn, song chưa đưa ra ước tính riêng ở quy mô toàn bộ Internet.

Nghiên cứu này thu hút chú ý vì cho thấy AI đang tự động hóa những phương thức “gỡ ẩn danh” vốn trước đây cần nhiều thời gian và nhân lực. Việc thu thập manh mối từ nhiều bài đăng rồi đối chiếu với dữ liệu công khai từng là công việc tốn kém, nhưng với LLM, quá trình này có thể được rút ngắn đáng kể cả về chi phí lẫn thời gian.

Trong bài báo, nhóm nghiên cứu kêu gọi xem xét lại cách đánh giá rủi ro quyền riêng tư vốn dựa trên “tính ẩn danh trên thực tế” để bảo vệ người dùng dùng tên giả. Khái niệm này không có nghĩa thông tin cá nhân hoàn toàn không thể bị nhận diện, mà dựa trên giả định rằng dữ liệu công khai bị phân tán, khiến chi phí và công sức để lần ra một cá nhân là quá lớn. Theo nhóm, khi AI có thể tự động hóa khâu tìm kiếm và đối chiếu, rào cản chi phí đó có thể giảm mạnh.