Bài nghiên cứu công bố năm 2020 của Chủ tịch Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) Gary Gensler về rủi ro AI trong lĩnh vực tài chính đang thu hút sự chú ý trở lại, trong bối cảnh AI agent bắt đầu tham gia trực tiếp hơn vào quá trình ra quyết định tài chính.

Theo U.Today ngày 29/9 (giờ địa phương), cựu Giám đốc Công nghệ (CTO) của Ripple David Schwartz cho rằng nhiều nội dung trong lập luận của Gensler là hợp lý, nhưng ông không đồng tình với toàn bộ quan điểm xung quanh rủi ro từ AI.

Cuộc thảo luận bùng lên sau khi người dùng X Andrew Curran chia sẻ lại nghiên cứu năm 2020 của Gensler. Curran nhấn mạnh rằng Gensler đã sớm cảnh báo việc deep learning được ứng dụng rộng rãi trong tài chính có thể làm gia tăng tính mong manh của hệ thống và kéo theo rủi ro đối với toàn bộ nền kinh tế.

Trước khi trở thành Chủ tịch SEC, vào tháng 11/2020, Gary Gensler cùng Lily Bailey thuộc Trường Quản trị Sloan của Viện Công nghệ Massachusetts (MIT) đã công bố nghiên cứu mang tên “Deep Learning and Financial Stability”.

Nghiên cứu này cho rằng khi deep learning được triển khai rộng rãi trong phân tích dữ liệu và quy trình ra quyết định tại các tổ chức tài chính, khung giám sát hiện hành có thể không đủ để xử lý đầy đủ các dạng rủi ro hệ thống mới. Điểm cốt lõi là nếu nhiều tổ chức cùng sử dụng các mô hình và bộ dữ liệu tương tự, rủi ro có thể gia tăng do thị trường dịch chuyển đồng loạt, thay vì xuất phát từ quyết định riêng lẻ của từng đơn vị.

Lập luận trên gần đây được nhắc lại cùng làn sóng AI agent. Curran dẫn phân tích của Torsten Slok, Kinh tế trưởng của Apollo, cho rằng nếu các AI agent cùng tối ưu hóa tài sản cho người dùng và đồng thời đưa ra quyết định giống nhau, hệ thống tài chính có thể đối mặt với những cú sốc tương tự hiện tượng rút tiền hàng loạt.

Rủi ro càng đáng chú ý hơn khi AI agent không chỉ dừng ở vai trò cung cấp thông tin, mà còn có thể tự đánh giá, lập kế hoạch và thực hiện các giao dịch tài chính nhiều bước. Nếu từ hàng nghìn đến hàng triệu hệ thống AI cùng vận hành dựa trên những nguồn dữ liệu tương tự, sự tương tác giữa chúng có thể làm gia tăng biến động thị trường, bất kể độ chính xác của từng mô hình riêng lẻ.

Schwartz không bác bỏ hoàn toàn cảnh báo theo hướng này. Ông nhận xét rằng “nhiều phần” trong nghiên cứu của Gensler là hợp lý, đồng thời thừa nhận khả năng các hệ thống ra quyết định tự động có thể cùng lúc hành động theo một hướng trên thị trường.

Tuy nhiên, ông phản đối quan điểm cho rằng AI càng phát triển thì càng dễ đưa ra những quyết định thiếu hợp lý. Theo Schwartz, lập luận cho rằng AI vì quá thông minh nên sẽ hành động một cách vô lý là không thuyết phục.

Một số ý kiến phân tích cũng cho rằng rủi ro mà ngành tài chính cần theo dõi hiện nay không thể chỉ được giải thích bằng mức độ thông minh của AI. Vấn đề không chỉ nằm ở chỗ từng hệ thống AI ra quyết định chính xác đến đâu, mà còn ở tác động tập thể khi nhiều hệ thống tương tự đồng loạt đưa ra cùng một lựa chọn trên thị trường.

Đó cũng là lý do nghiên cứu năm 2020 của Gary Gensler được nhắc lại vào thời điểm này. Khi mức độ tự chủ của AI agent ngày càng tăng, các tổ chức tài chính và cơ quan quản lý cần xem xét không chỉ tốc độ triển khai công nghệ hay hiệu suất của từng mô hình, mà cả tác động mang tính hệ thống của làn sóng tự động hóa quy mô lớn đối với toàn thị trường.