Dù chi phí theo token giữa các mô hình AI có thể chênh nhau tới 100 lần, nhiều doanh nghiệp vẫn sử dụng mô hình cao cấp cho cả những tác vụ cơ bản như viết email hay tóm tắt nội dung. Khi AI agent và các công cụ tự động hóa được triển khai ngày càng nhiều, lượng token tiêu thụ tăng vọt, buộc doanh nghiệp phải xem lại cách phân bổ mô hình và kiểm soát chi phí AI.

Theo Decrypt ngày 17/10/2026, nhân viên Meta đã sử dụng tổng cộng 60.000 tỷ token AI trong vòng 30 ngày vào đầu năm nay. Nguyên nhân được cho là xuất phát từ cạnh tranh quá mức trong bảng xếp hạng sử dụng AI nội bộ.

Nhà phân tích công nghệ Gergely Orosz ước tính quy mô này tương đương khoảng 900 triệu USD nếu tính theo giá niêm yết của Anthropic. Tuy nhiên, đây chỉ là phép tính dựa trên giá công khai và số tiền Meta thực trả có thể thấp hơn.

Không chỉ Meta, cuộc đua sử dụng AI còn xuất hiện tại nhiều hãng công nghệ lớn khác. Meta, Amazon và Uber được cho là đều duy trì bảng xếp hạng nội bộ để so sánh mức sử dụng công cụ AI giữa các nhân viên.

Riêng Uber được cho là đã tiêu hết ngân sách dành cho công cụ AI của năm 2026 chỉ sau khoảng bốn tháng.

CEO Nvidia Jensen Huang cũng từng công khai khuyến khích mở rộng sử dụng AI. Trong podcast “All-In” hồi tháng 3, ông nói sẽ “rất lo ngại” nếu một kỹ sư nhận lương 500.000 USD nhưng không sử dụng tối thiểu lượng token trị giá 250.000 USD.

Theo các phân tích được dẫn lại, nỗ lực thúc đẩy AI để tăng năng suất tại nhiều doanh nghiệp đang dần biến thành cuộc đua về mức tiêu thụ, qua đó tạo thêm áp lực lên bài toán quản trị chi phí.

Nút thắt lớn nằm ở khoảng cách giá giữa các mô hình. Các mô hình cao cấp nhất của Anthropic và OpenAI có thể đắt hơn tới 100 lần so với các mô hình nhỏ hơn nếu tính theo token.

Với OpenAI, có mô hình có giá 10 USD cho mỗi một triệu token đầu vào, trong khi một mô hình khác chỉ 0,10 USD, cho thấy mức chênh lệch rất lớn.

Token là đơn vị cơ bản mà AI dùng để xử lý và tạo văn bản. Số token không chỉ được tính cho câu hỏi và ngữ cảnh đưa vào mô hình, mà còn bao gồm cả phần phản hồi do AI tạo ra.

Với các gói thuê bao khoảng 20 USD mỗi tháng, tốc độ tiêu thụ token ảnh hưởng trực tiếp đến giới hạn sử dụng. Còn với doanh nghiệp kết nối AI qua API, mức sử dụng càng cao thì hóa đơn càng tăng.

Zhuo Wang, chuyên gia của Bain & Company, cho biết nhiều doanh nghiệp đang dùng mô hình cao cấp nhất ngay cả với những công việc không cần suy luận phức tạp như soạn email. Một ví dụ điển hình là gần như mọi tác vụ đều được giao cho Opus, mô hình hiệu năng cao của Anthropic.

Tại Amazon, tình trạng tương tự cũng được ghi nhận. Một số nhân viên được cho là sử dụng công cụ AI nội bộ cho cả những việc ít liên quan đến công việc chỉ để đẩy số liệu sử dụng lên cao hơn.

Trước thực tế này, một phó chủ tịch cấp cao đã cảnh báo nhân viên không được “dùng AI chỉ để dùng”. Thông điệp ở đây là nếu xem mức sử dụng như một chỉ số thành tích, chi phí có thể tăng mạnh trong khi năng suất thực tế không cải thiện.

Một yếu tố khác khiến chi phí đội lên là AI agent và mô hình điều phối nhiều agent. AI agent thường thực hiện công việc qua nhiều bước như tìm kiếm, chạy mã và rà soát kết quả; quá trình liên tục lặp lại ngữ cảnh hội thoại và tác vụ khiến lượng token tiêu thụ tăng nhanh.

Với mô hình điều phối, công việc được chia cho nhiều agent con, từ đó làm tăng số lần gọi mô hình cũng như khối lượng ngữ cảnh cần xử lý.

Anthropic cho biết trong Claude Code, nếu agent theo nhóm chạy ở chế độ lập kế hoạch, lượng token có thể cao hơn khoảng bảy lần so với phiên thông thường. Agent càng tự động xử lý những nhiệm vụ phức tạp, lượng token phát sinh ở hậu trường có thể càng lớn, ngay cả khi người dùng nhập ít hơn.

Giải pháp đầu tiên để cắt giảm chi phí là phân loại mô hình theo độ khó của công việc. Những tác vụ như soạn email, chỉnh câu hoặc tóm tắt đơn giản nên giao cho mô hình nhẹ; còn mô hình cao cấp chỉ nên dùng cho các nhiệm vụ cần suy luận phức tạp hoặc các quyết định quan trọng đòi hỏi độ chính xác cao.

Trong thực tế, doanh nghiệp có thể lấy năm tác vụ gần nhất, chạy thử đồng thời trên mô hình mạnh và mô hình nhỏ để so sánh kết quả. Nếu mô hình nhỏ vẫn đáp ứng yêu cầu, doanh nghiệp có thể tiếp tục dùng nó cho nhóm công việc đó.

Theo bài viết, chiến lược phân nhánh mô hình như vậy có thể giúp giảm tới 99% chi phí API. Dù vậy, mức tiết kiệm thực tế vẫn phụ thuộc vào loại công việc, giá mô hình và quy mô sử dụng.

Quản lý prompt và ngữ cảnh cũng là yếu tố quan trọng. Thay vì liên tục sửa câu hỏi để bổ sung yêu cầu, việc nêu rõ mục tiêu và định dạng đầu ra ngay từ đầu sẽ giúp giảm số lượt hỏi lại không cần thiết.

Khi chủ đề hội thoại thay đổi, bắt đầu một cuộc trò chuyện mới cũng là cách để tránh phải gửi lặp lại ngữ cảnh cũ.

Anthropic gọi hiện tượng hội thoại kéo dài làm tích tụ ngày càng nhiều thông tin kém liên quan, từ đó kéo giảm chất lượng phản hồi, là “context rot”. Ngữ cảnh càng dài, số token phải xử lý càng lớn và mô hình cũng khó tập trung vào thông tin cốt lõi hơn.

Giới hạn độ dài câu trả lời cũng là một cách tiết kiệm trực tiếp. Với các mô hình cao cấp nhất của Anthropic và OpenAI, token đầu ra đắt gấp năm lần token đầu vào.

Vì vậy, các chỉ dẫn như “trả lời trong 100 từ” hoặc “chỉ xuất phần đã chỉnh sửa” có thể giúp giảm những phản hồi dài không cần thiết.

Các tác vụ tính toán hay tổng hợp dữ liệu cũng không nhất thiết phải giao toàn bộ cho AI. Thay vì đưa cả một bảng dài vào mô hình để yêu cầu phân tích, doanh nghiệp có thể yêu cầu AI viết công thức hoặc một đoạn script ngắn rồi tự chạy, sau đó chỉ gửi lại kết quả cho AI xử lý tiếp.

Cách làm này giúp giảm tiêu thụ token bằng cách chuyển các phép tính lặp lại từ quá trình suy luận của mô hình sang những công cụ thông thường.

Trong môi trường phát triển, caching và xử lý theo lô cũng được xem là biện pháp tiết kiệm hiệu quả. Nếu lưu cache các chỉ dẫn hệ thống và ngữ cảnh cố định dùng lặp lại, doanh nghiệp có thể giảm chi phí phát sinh từ việc gửi lại cùng một nội dung nhiều lần.

OpenAI và Anthropic hiện cung cấp mức giảm giá 50% cho các tác vụ xử lý theo lô, phù hợp với khối lượng công việc lớn không cần phản hồi theo thời gian thực.

Ví dụ, thay vì xử lý riêng từng hóa đơn theo thời gian thực trong lô 1.000 hóa đơn, doanh nghiệp có thể gom lại để giảm chi phí gọi mô hình. Tuy nhiên, vẫn cần kiểm tra điều kiện hỗ trợ cũng như loại tác vụ phù hợp với caching và batch processing.

Với AI agent, doanh nghiệp cũng cần đặt giới hạn số bước thực thi và giới hạn chi tiêu. Việc xác định rõ điều kiện hoàn tất, số bước tối đa và ngân sách theo USD sẽ giúp tránh tình trạng agent lặp lại các thao tác không cần thiết chỉ để “tối ưu” kết quả.

Shopify được cho là đang áp dụng cơ chế chặn ngay quyền truy cập của nhà phát triển nếu mức chi tiêu tăng đột biến trong một ngày.

Một điểm đáng chú ý là dù giá token giảm, tổng chi tiêu vẫn đi lên. Theo chỉ số chi tiêu token của SiliconData, giá theo token đã giảm hơn 90% kể từ năm 2023, nhưng chi tiêu liên quan đến mô hình ngôn ngữ lớn (LLM) đã tăng gấp đôi từ cuối năm 2025.

Bain & Company cũng phân tích rằng trong giai đoạn từ tháng 12/2024 đến tháng 12/2025, chi phí token giảm một nửa nhưng mức sử dụng lại tăng 450%.

Điều này cho thấy đơn giá mô hình đi xuống không đồng nghĩa tổng chi phí sẽ giảm. Nếu mức sử dụng tăng nhanh hơn tốc độ giảm giá, tổng chi tiêu của doanh nghiệp vẫn có thể tiếp tục tăng.

Vì vậy, để kiểm soát chi phí AI, doanh nghiệp không thể chỉ dừng ở việc chọn mô hình rẻ hơn. Điều quan trọng là phải phân bổ đúng mô hình cho từng tác vụ, quản lý prompt và ngữ cảnh hiệu quả, đồng thời kiểm soát chặt việc lặp tác vụ và ngân sách của agent.

Khi cuộc cạnh tranh triển khai AI chuyển từ “dùng nhiều” sang tạo ra năng suất thực chất, trọng tâm của doanh nghiệp cũng cần chuyển sang “dùng hiệu quả” thay vì chỉ đo bằng mức tiêu thụ.