Salesforce vừa giới thiệu Enterprise AI Harness và AI Control Plane, bộ công cụ mới nhằm hỗ trợ doanh nghiệp xây dựng, vận hành và quản trị AI agent. Theo SiliconAngle ngày 11/9 (giờ địa phương), hãng cũng bổ sung các tính năng giám sát hiệu năng và chi phí suy luận của AI.

Theo bài viết, để biến mô hình ngôn ngữ lớn (LLM) thành AI agent, nhà phát triển thường phải bổ sung nhiều lớp công nghệ như prompt và các bộ kết nối cơ sở dữ liệu. Tập hợp các công nghệ bổ trợ này được gọi là “harness”.

Với Enterprise AI Harness, Salesforce tích hợp các công nghệ nhằm tăng độ tin cậy và bảo mật cho AI agent của khách hàng. Một số thành phần đã được áp dụng trên các dịch vụ đám mây của hãng, trong khi các tính năng còn lại dự kiến sẽ được triển khai dần từ năm tài chính 2028 của Salesforce, bắt đầu vào tháng 2 năm tới.

Enterprise AI Harness gồm 6 nhóm tính năng, trong đó 3 nhóm tập trung vào dữ liệu phục vụ hoạt động của AI agent. Tính năng “Trusted Context” tổng hợp các tài sản dữ liệu như hồ sơ khách hàng và thông tin tồn kho, đồng thời hỗ trợ tín hiệu theo thời gian thực. Trong lĩnh vực bán hàng, đây là các tín hiệu về hành vi người mua mà doanh nghiệp cần phản ứng nhanh.

Salesforce cho biết bộ công cụ này cũng bổ sung các tính năng giúp nâng chất lượng và độ tin cậy của dữ liệu mà AI agent sử dụng. Hãng dự kiến cung cấp nhiều công cụ quản lý chất lượng dữ liệu, trong đó có công cụ theo dõi luồng dữ liệu. Nhờ đó, đội ngũ bảo mật có thể kiểm soát AI agent nào được phép truy cập tập dữ liệu nào và sử dụng ra sao.

Theo Salesforce, doanh nghiệp thường triển khai đồng thời nhiều LLM trong các dự án AI agent để tối ưu chi phí. Những tác vụ phức tạp sẽ được giao cho mô hình mạnh hơn, còn tác vụ đơn giản có thể chuyển sang mô hình nhỏ hơn và rẻ hơn. Enterprise AI Harness vì vậy bổ sung tính năng “định tuyến mô hình thông minh”, tự động phân bổ yêu cầu tới LLM phù hợp nhất dựa trên các tiêu chí như độ chính xác và chi phí.

Hãng cũng lưu ý rằng cùng một prompt có thể tạo ra các câu trả lời khác nhau khi được nhập nhiều lần vào LLM. Để giảm tác động của đặc tính này, Enterprise AI Harness cung cấp cơ chế kiểm soát độ tin cậy mang tính xác định, đồng thời hỗ trợ kết nối giữa các ứng dụng bên ngoài với AI agent dễ dàng hơn.

Trong khi đó, “AI Control Plane” cho phép quản trị viên theo dõi hiệu năng và chi phí suy luận của nhiều AI agent trên một đầu mối quản lý tập trung. Công cụ này cũng đi kèm các tính năng quản trị nhằm bảo đảm AI agent tuân thủ chính sách bảo mật.

Rohan Kuma, Chủ tịch kiêm Giám đốc kỹ thuật nền tảng của Salesforce, cho rằng các mô hình sẽ tiếp tục thay đổi và năng lực trí tuệ sẽ có thể được khai thác ở khắp nơi. Theo ông, lợi thế của doanh nghiệp nằm ở khả năng kết hợp năng lực đó với dữ liệu riêng đáng tin cậy, như dữ liệu khách hàng, và chuyển hóa thành hành động một cách an toàn.