KakaoBank ngày 30/6 cho biết 4 nghiên cứu về an toàn và bảo mật AI trong lĩnh vực tài chính của Viện Nghiên cứu Công nghệ Tài chính đã được chấp nhận tại các hội thảo học thuật quốc tế gồm ICLR, ACL và LREC trong nửa đầu năm nay.

Theo ngân hàng này, các nghiên cứu tập trung vào những vấn đề có tính ứng dụng cao trong bối cảnh AI tạo sinh ngày càng được triển khai rộng trong ngành tài chính, gồm phát hiện tấn công prompt injection, truy vết lỗi tính toán số trong dữ liệu tài chính và đánh giá mức độ an toàn của mô hình AI.

Tại ICLR 2026 diễn ra vào tháng 4, KakaoBank công bố công nghệ phát hiện prompt injection nhằm vào AI tạo sinh trong các lĩnh vực chuyên môn như tài chính và pháp lý. Cách tiếp cận này dựa trên bộ dữ liệu khoảng 59.000 trường hợp do KakaoBank và KAIST phối hợp xây dựng, nhằm nhận diện hành vi chèn lệnh độc hại và các hình thức tấn công né tránh.

Tại LREC 2026 diễn ra vào tháng 5, ngân hàng công bố hai nghiên cứu nhằm nâng cao độ an toàn và độ chính xác của AI chuyên biệt cho lĩnh vực tài chính. Các nghiên cứu này gồm công nghệ phát hiện tấn công qua prompt và kỹ thuật truy vết lỗi tính toán số có thể phát sinh trong quá trình xử lý dữ liệu tài chính phức tạp.

Ở hạng mục công nghiệp của ACL 2026, một nghiên cứu về đánh giá an toàn AI tài chính do KakaoBank phối hợp với KAIST thực hiện cũng được chấp nhận. Nhóm nghiên cứu đã đề xuất bộ tiêu chí đánh giá an toàn cho AI, tổng hợp các rủi ro có thể phát sinh trong lĩnh vực tài chính như lừa đảo qua điện thoại, gian lận tài chính và đánh cắp dữ liệu cá nhân.

Bên cạnh đó, nhóm cũng phát triển kỹ thuật huấn luyện để giúp mô hình AI tài chính tránh đưa ra các phản hồi có thể gây rủi ro.

KakaoBank nhấn mạnh các nghiên cứu lần này không chỉ phục vụ mục tiêu học thuật mà còn hướng tới ứng dụng thực tiễn, qua đó nâng cao độ an toàn và độ chính xác của các dịch vụ AI trong tài chính. Ngân hàng cho biết sẽ tiếp tục đẩy mạnh nghiên cứu về bảo mật AI và các công nghệ phù hợp với môi trường tài chính.