Các ngân hàng lớn tại Mỹ đang tăng cường hàng rào an toàn cho AI, với trọng tâm là hạn chế quyền tự chủ của AI agent và giữ khâu phê duyệt cuối cho con người. Trong bối cảnh AI được triển khai nhanh hơn trong hoạt động tài chính, nguy cơ phát sinh hành vi ngoài dự kiến cũng như các cuộc tấn công mạng đang trở thành vấn đề quản trị rủi ro được ưu tiên.

Theo American Banker ngày 14/9 (giờ địa phương), lãnh đạo Bank of America (BofA) và PNC đã chia sẻ chiến lược triển khai AI cùng cách tiếp cận quản trị rủi ro tại hội nghị Barclays Global Financial Services Conference ở New York.

CEO BofA Brian Moynihan khẳng định ngân hàng không để AI agent tự phán đoán rồi tự hành động. Theo ông, mọi đầu ra do AI tạo ra đều phải được nhân viên kiểm tra trước khi gửi tới khách hàng. Song song với đó, đội ngũ an ninh mạng của ngân hàng tiếp tục củng cố hệ thống để ứng phó nguy cơ tấn công mạng.

Ông Moynihan cho rằng trọng tâm của các cuộc tranh luận gần đây về an toàn AI nằm ở câu hỏi điều gì sẽ xảy ra nếu AI agent được trao quyền hành động quá rộng. Ông nhấn mạnh BofA không theo hướng này.

PNC cũng đưa ra quan điểm tương tự. Chủ tịch PNC Mark Wiedman cho biết ưu tiên số một là bảo đảm AI agent chỉ thực hiện đúng nhiệm vụ được giao và không vượt ra ngoài phạm vi đó. Theo ông, ngân hàng đang kiểm soát để AI không hành động quá mức trong quá trình hoàn thành mục tiêu.

Phát biểu của hai ngân hàng xuất hiện trong bối cảnh tranh luận về an toàn AI nóng trở lại. Jacob Coxon, nhà nghiên cứu từng làm việc tại Anthropic, gần đây rời công ty và chỉ trích các doanh nghiệp AI đang cạnh tranh một cách thiếu trách nhiệm để phát triển “siêu trí tuệ tự cải thiện”. Sau đó, CEO Anthropic Dario Amodei cũng cảnh báo về các rủi ro như tấn công mạng, khủng bố sinh học và khả năng AI vượt ngoài tầm kiểm soát của con người, đồng thời cho rằng cần làm chậm tốc độ nâng cấp năng lực của các mô hình AI.

Trước đó, các ngân hàng Mỹ đã đẩy mạnh ứng dụng AI để cắt giảm chi phí và nâng hiệu quả vận hành. BofA tiếp tục đầu tư quy mô lớn vào trợ lý ảo Erica, trong khi PNC xây dựng hạ tầng tính toán GPU và phát triển mô hình ngôn ngữ nhỏ (SLM) nội bộ. Khi cuộc đua ứng dụng AI bước vào giai đoạn quyết liệt hơn, mối quan tâm của ngành tài chính không còn chỉ là triển khai nhanh đến đâu, mà còn là kiểm soát và khai thác công nghệ này như thế nào.