Khi trí tuệ nhân tạo ngày càng được dùng để thực hiện các tác vụ như thanh toán hay mở tài khoản thay cho con người, ngành tài chính Mỹ đang xúc tiến xây dựng khung trách nhiệm mới. Trọng tâm tranh luận hiện nay là ai sẽ chịu trách nhiệm nếu AI agent giao dịch sai, bị lừa đảo hoặc bị lợi dụng cho hành vi phạm tội: người tiêu dùng, ngân hàng hay đơn vị phát triển AI.

Theo American Banker, ngày 13/10 (giờ địa phương), các ngân hàng, công ty thanh toán và doanh nghiệp công nghệ tại Mỹ đang thảo luận về tiêu chí phân định trách nhiệm đối với các giao dịch tài chính do AI agent thực hiện.

AI agent có thể mua hàng hoặc chuyển tiền theo chỉ dẫn của người dùng. Tuy nhiên, nếu hệ thống đặt nhầm sản phẩm, việc ngân hàng chấp thuận thanh toán không có nghĩa người tiêu dùng đã trực tiếp xác nhận ý định mua món hàng đó.

Ngày 29/9 tại sự kiện Sibos, Thành viên Hội đồng Thống đốc Cục Dự trữ Liên bang Mỹ (Fed) Christopher Waller nhận định rào cản lớn nhất đối với hoạt động thương mại do AI agent thực hiện là sự thiếu tin cậy. Theo ông, cần bổ sung thêm các quy định bảo vệ người tiêu dùng cũng như các quy tắc hiện hành của mạng lưới thanh toán.

Tiềm năng của thị trường này cũng được đánh giá là rất lớn. Hãng tư vấn Bain dự báo chi tiêu hằng năm cho hoạt động thương mại do AI agent thực hiện tại Mỹ có thể đạt 500 tỷ USD vào năm 2030.

Lead Bank đã đề xuất một cơ chế “waterfall” nhằm phân loại trách nhiệm theo nguyên nhân sự cố. Theo đề xuất này, nếu AI vượt quá phạm vi được ủy quyền thì người tiêu dùng sẽ không phải chịu trách nhiệm; nếu ngân hàng không kiểm soát được phạm vi ủy quyền, trách nhiệm sẽ thuộc về ngân hàng.

Những lỗi phát sinh từ mô hình AI hoặc từ việc thiếu cơ chế an toàn sẽ do nhà phát triển chịu trách nhiệm. Trong khi đó, nếu có hành vi cố ý thúc đẩy AI vượt quá quyền hạn được giao, trách nhiệm sẽ thuộc về bên bán.

Startup fintech Primitive cũng đưa ra đề xuất mang tên “Agentic Financial Services Protocol” (AFSP). Đây là dự thảo tiêu chuẩn nhằm xác minh danh tính của AI, kiểm tra việc người dùng có phê duyệt hay không, đồng thời theo dõi toàn bộ quy trình giao dịch để phục vụ kiểm toán và giám sát.

Dù vậy, các tiêu chí nói trên hiện vẫn mới dừng ở mức đề xuất trong nội bộ ngành. CEO Lead Bank Jackie Reses cho rằng việc hoàn thiện các quy định liên quan đến ngân hàng và thanh toán vẫn là thách thức lớn hơn so với giải quyết vấn đề trách nhiệm chỉ bằng các biện pháp kỹ thuật.