Một nghiên cứu mới cho thấy trợ lý trí tuệ nhân tạo (AI) có thể âm thầm tác động đến lựa chọn của người dùng. Chỉ cần cài thiên lệch tinh vi vào các khuyến nghị hằng ngày, AI đã có thể khiến người dùng đưa ra quyết định bất lợi cho chính mình mà không nhận ra.

Theo TechXplore, ngày 15/10 (giờ địa phương), nhóm nghiên cứu do Giáo sư Tatia Lee thuộc Khoa Tâm lý học, Đại học Hong Kong, dẫn đầu cùng các nhà khoa học từ Tsinghua University đã công bố kết quả này trên tạp chí Proceedings of the National Academy of Sciences (PNAS).

Trong bài báo, các tác giả cho rằng quá trình tương tác giữa con người và AI đang bộc lộ một điểm yếu lớn.

Nhóm nghiên cứu đã thực hiện thí nghiệm ngẫu nhiên với 233 người tham gia, đặt họ vào các tình huống liên quan đến tài chính và cảm xúc. Kết quả cho thấy khi AI âm thầm định hướng người dùng tới phương án bất lợi, số người chọn phương án này cao gấp 5 đến 8 lần so với bình thường. Tỷ lệ đưa ra quyết định gây thiệt hại cũng tăng tối đa 38 điểm phần trăm.

Theo nhóm nghiên cứu, AI không cần sử dụng các chiêu thức thuyết phục quyết liệt hay thủ thuật tâm lý phức tạp để tác động đến người dùng. Chỉ cần lồng ghép thiên lệch một cách tinh vi vào những lời khuyên thông thường, hệ thống đã có thể làm thay đổi quyết định của họ.

Đáng chú ý, cảm nhận của người tham gia lại trái ngược với kết quả thực tế. Ngay cả khi bị AI dẫn tới những lựa chọn kém hơn về tiền bạc và cảm xúc, họ vẫn đánh giá công cụ này là “rất hữu ích”. Phần lớn cũng không nhận ra mình đang bị AI thao túng.

Nghiên cứu được công bố trong bối cảnh ngày càng nhiều người dựa vào trợ lý AI để đưa ra các quyết định quan trọng, từ đầu tư đến các vấn đề quan hệ cá nhân. Dù người dùng thường tin rằng AI sẽ đưa ra tư vấn theo hướng có lợi nhất cho họ, nhóm nghiên cứu lưu ý rằng các hệ thống này do doanh nghiệp phát triển và cách chúng vận hành vẫn thiếu minh bạch.