Khi AI agent bắt đầu tham gia trực tiếp vào công việc như “nhân viên số”, doanh nghiệp không còn chỉ quản trị con người mà phải mở rộng cơ chế kiểm soát tuân thủ sang cả AI. Theo Tnaps, đây sẽ là điều kiện then chốt để AI được ứng dụng vào nghiệp vụ thực tế ở quy mô lớn.

Ông Kang Min-seung, CEO Tnaps, gần đây cho biết cần tách bạch hai vấn đề: AI ngày càng thông minh hơn và doanh nghiệp có thể cho phép AI tham gia đến đâu trong quy trình ra quyết định. Theo ông, khi AI agent được giao xử lý công việc, câu hỏi quan trọng không còn là năng lực mô hình, mà là ai sẽ giám sát và kiểm soát chúng.

Ông cho rằng đã đến lúc doanh nghiệp cần một lớp “kiểm soát viên tuân thủ AI”, tương tự cơ chế giám sát tuân thủ vốn áp dụng với nhân sự.

Theo ông, hệ thống kiểm soát nội bộ hiện nay chủ yếu được thiết kế xoay quanh con người. Nhưng khi AI agent đảm nhận phần lớn khối lượng công việc, con người khó có thể theo dõi toàn bộ đầu ra và hành động của hệ thống. Khoảng trống kiểm soát này hiện vẫn chưa được lấp đầy.

Đặc biệt trong lĩnh vực tài chính, chỉ một sai sót nhỏ cũng có thể dẫn tới sự cố. Vì vậy, doanh nghiệp cần một cơ chế sàng lọc đầu ra và hành vi của AI trước khi lệnh được thực thi.

Ông dẫn ví dụ tại một tổ chức tài chính, nơi AI hỗ trợ tư vấn nghiệp vụ lương hưu đã tạo ra một mã chuyển tiền không tồn tại. Lỗi này được phát hiện ở khâu hậu kiểm trước khi giao dịch thực tế diễn ra, nhưng nếu không được chặn kịp thời có thể dẫn tới rủi ro tài chính.

Để hạn chế rủi ro đó, Tnaps triển khai một lớp xác minh riêng ngay tại thời điểm vận hành, trước khi phản hồi của AI được gửi đi hoặc hành động được thực hiện. Với các tình huống đơn giản, hệ thống đánh giá theo bộ quy tắc; với các trường hợp phức tạp hơn, công ty sử dụng nhiều mô hình nhẹ để đối chiếu chéo kết quả. Những phần AI không thể tự kết luận sẽ được chuyển cho con người xử lý.

Công ty cũng áp dụng cơ chế “self-critic”, cho phép nhiều mô hình liên tục kiểm tra chéo và đặt nghi vấn đối với kết quả do AI tạo ra. Hệ thống này phản ánh tiêu chuẩn nghiệp vụ và bộ câu trả lời mẫu của từng doanh nghiệp, đồng thời tích lũy các lỗi phát sinh trong quá trình vận hành thành dữ liệu để nâng hiệu quả xác minh.

Theo ông, AI tạo ra đáp án dựa trên xác suất, trong khi quyết định của doanh nghiệp không thể vận hành theo logic xác suất. Ông nói doanh nghiệp không thể chấp nhận việc chỉ cần sai 1 lần trong 100 lần là đã có thể dẫn tới một quyết định khác đi. Dù vậy, ông cũng thừa nhận không thể khẳng định AI có thể ngăn chặn 100% sự cố. Điều quan trọng là phải xác lập rõ ranh giới: AI được phép quyết định đến đâu và từ ngưỡng nào thì phải chuyển sang con người.

Trong quy trình xác minh, tốc độ quan trọng không kém độ chính xác. Nếu việc kiểm tra khiến phản hồi hoặc xử lý nghiệp vụ bị chậm đáng kể, giải pháp đó sẽ khó được triển khai trong thực tế.

Ông đánh giá năng lực phát triển thuật toán tại Hàn Quốc có thế mạnh ở các mô hình ra quyết định rất nhanh theo hướng “có thực hiện hay không”. Theo ông, những mô hình có thể đánh giá quyết định của AI với độ chính xác cao trong thời gian ngắn là lĩnh vực mà các nhà phát triển Hàn Quốc vẫn có khả năng cạnh tranh.

Ông cũng cho rằng điểm khác biệt giữa Tnaps và các guardrail truyền thống của mô hình ngôn ngữ lớn (LLM) nằm ở phạm vi xác minh. Nếu phần lớn giải pháp hiện nay tập trung vào “input guardrail” để chặn các hình thức tấn công từ bên ngoài như prompt injection hay jailbreak, thì Tnaps còn xử lý cả “output guardrail”, tức xác minh những trường hợp AI nhận yêu cầu hợp lệ nhưng vẫn tạo ra câu trả lời hoặc hành động sai.

Ông định vị Tnaps là một “startup hạ tầng độ tin cậy cho AI”. Theo ông, cốt lõi của công ty là xác minh theo thời gian thực xem đầu ra của AI agent có vấn đề hay không trước khi phản hồi được chuyển đi hoặc hành động được thực thi.

Ông nhấn mạnh rằng việc phản ánh đúng quy định nội bộ và tiêu chuẩn nghiệp vụ riêng của từng doanh nghiệp là yếu tố rất quan trọng. Ngay trong cùng một tổ chức tài chính, các mảng như lương hưu, tín dụng cá nhân, tín dụng doanh nghiệp, huy động vốn, ngoại hối hay phòng chống rửa tiền (AML) đều có bộ quy tắc và phạm vi cho phép AI tham gia khác nhau.

Theo ông, mô hình AI có thể thay đổi liên tục, nhưng chuẩn mực vận hành của doanh nghiệp không nên thay đổi theo từng mô hình. Vì vậy, doanh nghiệp cần thiết lập một lớp quản trị đủ ổn định để dù sử dụng mô hình nào, hệ thống vẫn vận hành theo cùng một bộ tiêu chí.

Tnaps đã thực hiện thử nghiệm khái niệm (PoC) với KB Kookmin Bank và sau đó được chọn tham gia dự án triển khai tại 9 công ty con thuộc KB Financial. Từ nền tảng này, công ty đang mở rộng sang các tổ chức tài chính và tập đoàn lớn khác. Microsoft cũng đang hỗ trợ Tnaps trong việc mở rộng tệp khách hàng và thúc đẩy hoạt động kinh doanh toàn cầu.

Trong môi trường “multi-agent”, nơi nhiều AI agent phối hợp với nhau, bài toán kiểm soát sẽ còn phức tạp hơn. Lý do là ngay cả khi từng agent đều hành động đúng theo mục tiêu riêng, toàn bộ hệ thống vẫn có thể tạo ra kết quả xung đột.

Ông nêu ví dụ về một agent phụ trách tra cứu khoản vay và một agent phụ trách thẩm định khoản vay. Agent tra cứu có thể ưu tiên gia tăng số lượng đề xuất sản phẩm, trong khi agent thẩm định lại đặt mục tiêu giảm rủi ro nợ xấu. Khi đó, doanh nghiệp cần một cơ chế kiểm soát ở cấp cao hơn để điều phối.

Theo ông, khi tiến dần tới mô hình multi-agent, vai trò của một “supervisor” sẽ càng trở nên cần thiết. AI càng được trao nhiều quyền hạn, lớp kiểm soát đối với từng phán đoán và hành động càng trở nên quan trọng.

Ông nhận định “niềm tin” sẽ là yếu tố quyết định tốc độ phổ cập AI trong doanh nghiệp trong thời gian tới. Theo ông, các doanh nghiệp hiện đầu tư rất tích cực vào hạ tầng như GPU hiệu năng cao và mô hình AI, nhưng vẫn thiếu cơ chế xác định rõ mức độ có thể giao quyền ra quyết định cho AI.

Ông nói AI đang trở nên thông minh hơn rất nhanh, nhưng doanh nghiệp vẫn chưa thể khai thác tương xứng không phải vì thiếu GPU hay thiếu mô hình, mà vì chưa có ranh giới đủ rõ về phạm vi cho phép. Muốn giao việc thực tế cho AI, doanh nghiệp phải đồng thời có hiệu năng, niềm tin và một hệ thống kiểm soát phù hợp.