Các tổ chức tài chính đang đẩy nhanh ứng dụng trí tuệ nhân tạo (AI), nhưng tâm điểm rủi ro giờ đây không còn chỉ nằm ở hiệu năng mô hình. Theo Finextra, vấn đề ngày càng được chú ý là độ tin cậy của thông tin, cách tổ chức dữ liệu và cơ chế phân định trách nhiệm trong quá trình triển khai thực tế.

Ngày 14/5 (giờ địa phương), Finextra cho biết AI hiện đã được các tổ chức tài chính ứng dụng vào nhiều mảng như thẩm định tín dụng, phát hiện giao dịch bất thường, tuân thủ, dịch vụ khách hàng, chống rửa tiền (AML), vận hành và quản trị rủi ro. Tuy nhiên, nếu hệ thống không phản ánh đúng quy định và thực tế nghiệp vụ, nhiều vấn đề có thể phát sinh khi đưa vào vận hành.

Theo bài viết, ngay cả những hệ thống có vẻ đạt hiệu năng cao cũng có thể nhanh chóng bộc lộ điểm yếu nếu thông tin cốt lõi trong nội bộ tổ chức bị phản ánh sai lệch hoặc thiếu nhất quán.

Đối với ngân hàng, dữ liệu không chỉ dừng ở các trường thông tin riêng lẻ mà còn gắn với danh tính, mức độ rủi ro, độ tin cậy, thẩm quyền, quyền sở hữu, nghĩa vụ và rủi ro ở cấp tổ chức. Vì vậy, một mô hình chấm điểm tín dụng dù tinh vi đến đâu cũng khó phát huy hiệu quả nếu không thể phản ánh ổn định các yếu tố như mức độ rủi ro của hộ gia đình, thông tin về chủ sở hữu thực, trạng thái chấp thuận của khách hàng, hành vi trả nợ, quan hệ giao dịch hay dấu hiệu gian lận.

Những hạn chế này cũng lặp lại trong các lĩnh vực như phát hiện gian lận, giám sát AML, phân tích khách hàng và tự động hóa vận hành. Finextra chỉ ra một số nguyên nhân khiến AI hoạt động tốt ở giai đoạn thử nghiệm nhưng suy giảm hiệu quả khi triển khai thực tế, gồm nhận diện thực thể không nhất quán, tín hiệu dữ liệu đã cũ, lịch sử nguồn dữ liệu yếu, dữ liệu gốc không thống nhất giữa các hệ thống và trách nhiệm nghiệp vụ bị phân tán.

Trong bối cảnh đó, câu hỏi quan trọng với các tổ chức tài chính không còn là “mô hình mạnh đến đâu”, mà là “có thể tin cậy đến mức nào vào cách tổ chức đang mô tả và quản lý thông tin”.

Một mô hình kiến trúc được nhắc tới là “sense-core-driver”. Trong đó, lớp sense đảm nhiệm việc chuẩn hóa và xác thực thông tin, core phụ trách suy luận, còn driver chịu trách nhiệm thực thi đúng thẩm quyền và đúng quy trình. Điểm cốt lõi là lớp sense không nên chuyển thẳng dữ liệu rời rạc sang core, mà cần cung cấp trước một lớp thông tin đáng tin cậy, bao gồm trạng thái thực thể đã được xác minh, độ cập nhật, lịch sử nguồn dữ liệu, mức độ bất định, biên độ tin cậy và các mối quan hệ theo ngữ cảnh.

Cấu trúc này càng trở nên quan trọng khi việc ứng dụng AI agent gia tăng. Khi các tổ chức tài chính sử dụng AI agent có khả năng tự khởi tạo công việc, gửi báo cáo, kích hoạt kiểm soát hoặc tác động tới quyết định tài chính, vai trò của lớp driver sẽ lớn hơn đáng kể.

Theo Finextra, môi trường vận hành thực tế đòi hỏi phải xác định rõ ai là người cấp quyền, phạm vi hành động đến đâu, quyết định được kiểm chứng bằng cách nào, liệu biện pháp đã thực hiện có thể đảo ngược hay không, và cơ chế khắc phục sự cố sẽ được vận hành ra sao.

Những thay đổi này cho thấy thảo luận về AI trong ngành tài chính đang dịch chuyển từ việc so sánh hiệu năng mô hình ở giai đoạn thử nghiệm sang bài toán thiết kế kiến trúc ở cấp tổ chức. Năng lực cạnh tranh AI trong giai đoạn tới nhiều khả năng sẽ phụ thuộc vào khả năng cấu trúc hóa thông tin thực tế một cách chính xác, duy trì suy luận nhất quán và kiểm soát hành vi của AI theo hướng có trách nhiệm, thay vì chỉ sở hữu mô hình có hiệu năng cao.

Nói cách khác, tiêu chí cạnh tranh AI của ngành tài chính đang thay đổi. Việc đưa mô hình quy mô lớn vào sử dụng không còn là điều kiện đủ; yếu tố quyết định hiệu quả sẽ là mức độ hoàn thiện của cấu trúc thông tin nội bộ, cùng sự rõ ràng trong thiết kế thẩm quyền thực thi và quy trình kiểm chứng.