Để AI agent có thể đi vào vận hành thực tế trong doanh nghiệp, điều quan trọng trước tiên không phải là mở rộng tối đa quyền tự chủ, mà là thiết kế cơ chế “tự chủ có kiểm soát” cho từng nghiệp vụ, bao gồm phạm vi quyền hạn, quy trình phê duyệt và chủ thể chịu trách nhiệm.

Đó là nhận định của Kim Han-su, Giám đốc điều hành đơn vị AIR thuộc MegazoneCloud, tại hội thảo “Xu hướng toàn cầu và chiến lược thành công của agentic AI” do DigitalToday tổ chức ngày 29/9 tại COEX, quận Gangnam, Seoul.

Theo ông Kim, thách thức lớn hơn công nghệ khi triển khai AI agent trong doanh nghiệp nằm ở khâu định nghĩa nghiệp vụ và thiết kế cơ chế vận hành. Nếu ngay từ đầu không xác định rõ sẽ giao việc gì cho agent, hiệu quả tạo ra ở đâu và ROI đến từ khâu nào, quá trình xây dựng thường bị kéo dài.

Ông ví việc đưa AI agent vào doanh nghiệp cũng giống như không thể giao ngay thẻ công ty và toàn bộ quyền truy cập hệ thống nội bộ cho một nhân viên mới trong ngày đầu tiên. AI agent cũng chỉ nên được đưa vào vận hành sau khi doanh nghiệp chuẩn hóa tiêu chí công việc và trách nhiệm liên quan.

Một nội dung cần làm rõ từ đầu là tiêu chí hoàn tất công việc. Ông Kim cho biết doanh nghiệp phải xác định agent cần thực hiện đến đâu thì mới được xem là hoàn thành nhiệm vụ. Chẳng hạn, khi phát sinh sự cố trong khâu cấp phát vật tư, cần quy định rõ agent chỉ dừng ở bước tìm danh sách vật tư thay thế, hay phải tiếp tục kiểm tra tồn kho và giá từ nhà cung cấp để bảo đảm có thể đặt mua thay thế trên thực tế.

“Điều quan trọng nhất khi xây AI agent là xác định đầu ra công việc và tiêu chí hoàn tất”, ông nhấn mạnh. Theo ông, ngay tại bộ phận nghiệp vụ, doanh nghiệp cũng phải làm rõ agent sẽ đóng góp ở mức nào cho hiệu quả công việc và sẽ đo lường kết quả đó ra sao.

Ông đồng thời cảnh báo cách tiếp cận chuyển toàn bộ nghiệp vụ sang agent chỉ vì dựa trên AI tạo sinh. Trong quá trình phân tích những nghiệp vụ khách hàng dự kiến áp dụng agent, không ít trường hợp bị loại bớt vì đã có thể xử lý bằng hệ thống hiện hữu hoặc công cụ tự động hóa, hoặc vì vẫn cần con người can thiệp quá nhiều.

Theo ông, nhiều doanh nghiệp bắt đầu với giả định rằng AI agent nhất thiết phải dùng AI tạo sinh, nhưng thực tế không phải lúc nào cũng vậy. “Không cần tốn chi phí token để áp AI agent cho cả những công việc mà hệ thống hiện tại đã xử lý đủ tốt”, ông nói.

Khi AI được ứng dụng rộng hơn, tầm quan trọng của việc chuẩn hóa dữ liệu cũng tăng lên. Ông Kim cho biết đơn vị AIR của MegazoneCloud hiện có khoảng 200 nhân sự. Sau khi AI tạo sinh bùng nổ, có thời điểm khoảng 80% nhân sự được phân bổ cho các hoạt động kinh doanh liên quan đến lĩnh vực này. Tuy nhiên, từ năm nay đã xuất hiện xu hướng một phần nhân sự quay lại các công việc liên quan đến dữ liệu.

Nguyên nhân là sau khi xây dựng dịch vụ AI và đưa vào quy trình thực tế, nhiều vấn đề bắt đầu lộ rõ, như dữ liệu cung cấp cho AI chưa được sắp xếp đầy đủ hoặc ngữ cảnh nghiệp vụ thiếu tính liền mạch. Một số khách hàng vẫn duy trì dịch vụ AI đã triển khai, đồng thời khởi động lại các dự án chuẩn hóa dữ liệu.

Về quản trị truy cập, ông Kim cho rằng doanh nghiệp cần phân tách chi tiết quyền của agent đối với dữ liệu nội bộ. Đặc biệt, quyền tra cứu dữ liệu phải được tách riêng khỏi quyền thay đổi trạng thái hệ thống hoặc trực tiếp thực thi nghiệp vụ.

“Quyền đọc và quyền thực thi phải tách biệt. Đọc và ghi là hai việc khác nhau”, ông nói. Theo ông, dù sử dụng API hay Model Context Protocol (MCP), nếu gộp toàn bộ vào một quyền duy nhất, nguy cơ sự cố sẽ tăng lên.

Ông cũng cho rằng cấp độ phê duyệt cần được thiết kế khác nhau tùy theo mức độ rủi ro của nghiệp vụ. Các tác vụ tra cứu đơn giản hoặc đưa ra khuyến nghị có thể dùng mức quyền thấp hơn. Trong khi đó, những thao tác như thay đổi cơ sở dữ liệu (DB), xác nhận trạng thái giao dịch hoặc trạng thái nghiệp vụ phải đi kèm quyền thực thi riêng và quy trình phê duyệt của con người.

Một rủi ro khác là agent có thể hiểu nhầm câu chữ trong tài liệu bên ngoài hoặc tri thức nội bộ thành mệnh lệnh cần thực thi. Vì vậy, theo ông Kim, doanh nghiệp phải tách bạch rõ đâu là thông tin tham chiếu trong tài liệu và đâu là lệnh mà agent được phép thực hiện. Ngay cả khi agent trả về phản hồi “đã hoàn tất”, hệ thống backend vẫn cần được kiểm tra lại để xác nhận quá trình xử lý thực sự đã kết thúc hay chưa.

Ông nhấn mạnh cơ chế vận hành của agent phải được thiết kế ngay từ giai đoạn xây dựng. Dưới góc nhìn “AgentOps”, từ nghiệp vụ áp dụng, chỉ số hiệu quả, mô hình, dữ liệu, tri thức, công cụ, quyền hạn cho đến người chịu trách nhiệm vận hành đều cần được xác định sớm và quản trị liên tục.

Ngoài ra, doanh nghiệp cũng cần thiết lập cơ chế chặn để tránh xử lý trùng lặp trong trường hợp công việc bị dừng giữa chừng do thiếu thông tin, lỗi quyền hạn hoặc gián đoạn phản hồi tạm thời. Khi kết nối nhiều agent với nhau, chi phí sử dụng mô hình và công cụ sẽ tăng lên, do đó cần tính toán hiệu quả kinh tế trên cơ sở bao gồm cả chi phí kiểm chứng của con người và chi phí môi trường thực thi.

Theo ông Kim, doanh nghiệp cũng phải sẵn sàng hoãn hoặc dừng dứt khoát những dự án agent chưa chứng minh được tính thương mại. Ngay từ đầu, cần xác định rõ đầu mối phụ trách nghiệp vụ, vận hành, kỹ thuật, dữ liệu và chi phí; chỉ nên bắt đầu phát triển sau khi đã chuẩn bị xong giả thuyết nghiệp vụ, phạm vi hoàn tất và quyền truy cập.

Tổng kết, ông Kim cho rằng để xây dựng agentic AI theo hướng bền vững, doanh nghiệp cần trả lời trước ba câu hỏi: giao việc gì, thế nào là hoàn tất và thế nào là thành công.

Ông nói thêm doanh nghiệp cũng phải xác định rõ ranh giới giữa phần việc giao cho agent và phần việc do con người đảm nhiệm, đồng thời làm rõ ai là người chịu trách nhiệm và ai là người phê duyệt. Bên cạnh đó, hiệu quả cải thiện về năng suất và chất lượng cũng cần được xem xét song song ngay từ đầu.