Hiệu quả của AI agent không chỉ phụ thuộc vào mô hình ngôn ngữ lớn (LLM), mà còn nằm ở harness - lớp phần mềm điều phối giúp mô hình dùng công cụ, kiểm chứng kết quả và duy trì các tác vụ kéo dài. Đây đang nổi lên như một lợi thế cạnh tranh quan trọng trên thị trường AI.

Theo tạp chí Gigazine của Nhật Bản ngày 25/8 (giờ địa phương), công ty phát triển phần mềm AI Earendil tóm gọn khái niệm này bằng công thức: “agent = mô hình + harness”. Những mô hình như ChatGPT hay Claude có thể hiểu câu hỏi và tạo câu trả lời, nhưng để tìm thông tin mới trên web, chỉnh sửa tệp, kiểm tra phép tính rồi thử lại khi phát sinh lỗi, hệ thống vẫn cần thêm một lớp vận hành riêng.

Earendil chia các chức năng điển hình của harness thành bốn nhóm. Đầu tiên là system prompt, nơi xác định vai trò và nguyên tắc hoạt động của mô hình. Tiếp theo là bộ công cụ để xử lý các tác vụ bên ngoài như tìm kiếm trên web, chạy mã hay soạn email. Nhóm thứ ba là vòng lặp vận hành của agent, gồm thực hiện tác vụ, kiểm tra kết quả rồi quyết định bước tiếp theo. Cuối cùng là lớp tương thích, giúp chuẩn hóa cách gọi mô hình và định dạng dữ liệu giữa các nhà cung cấp như OpenAI và Anthropic.

Pi, bộ harness mã nguồn mở do Earendil phát triển, cũng được xây dựng theo cấu trúc này. Nền tảng cho phép người dùng chuyển đổi và sử dụng mô hình từ nhiều hãng AI trong cùng một môi trường, đồng thời tùy biến system prompt, công cụ và các tiện ích mở rộng để phù hợp với quy trình làm việc. Theo Earendil, số tiện ích mở rộng do cộng đồng Pi chia sẻ đã vượt 5.000.

Một ví dụ cho thấy vai trò của harness là hệ thống AI agent AVO của Nvidia. AVO kết hợp Claude Opus5 với bộ nhớ duy trì, khả năng sử dụng công cụ và hệ thống giám sát. Nhờ đó, hệ thống này đã hoàn thành toàn bộ 25 môi trường và 183 cấp độ của bộ ARC-AGI-3 công khai, đạt 100 điểm. Nvidia cho biết bộ nhớ giúp lưu lại kết quả trước đó trong các tác vụ kéo dài, còn hệ thống giám sát hỗ trợ chuyển sang chiến lược khác khi cách tiếp cận hiện tại không mang lại kết quả.

Tuy vậy, không thể lấy kết quả này so sánh trực tiếp với mức điểm khoảng 30% của Opus5 để kết luận harness giúp hiệu năng tăng hơn ba lần. Nvidia cũng lưu ý điều kiện của hai bài đánh giá là khác nhau, nên đây không phải dữ liệu tách biệt để đo riêng tác động của harness. Dù vậy, trường hợp này cho thấy việc đánh giá năng lực của một hệ thống agent thực tế chỉ bằng benchmark của mô hình đơn lẻ là không đủ.

Cuộc đua AI agent hiện không còn dừng ở việc sở hữu mô hình mạnh hơn. Cách thiết kế harness - từ việc ghi nhớ thông tin nào, cho phép dùng công cụ gì, xử lý ra sao khi thất bại đến khả năng duy trì công việc dài hạn - đang trở thành yếu tố then chốt quyết định hiệu quả vận hành thực tế.