Chi phí triển khai AI tại doanh nghiệp đang tăng nhanh, buộc nhiều tập đoàn lớn như Amazon, Walmart, Cisco, Uber và Meta phải áp hạn mức sử dụng, đồng thời khuyến khích nhân viên chuyển sang các mô hình AI có chi phí thấp hơn để kiểm soát ngân sách.

Theo Financial Times, động thái này phản ánh một giai đoạn mới trong quá trình triển khai AI tại doanh nghiệp. Khi nhân viên chuyển từ chatbot sang sử dụng AI agent để tự động xử lý các tác vụ phức tạp hơn, nhu cầu về năng lực tính toán tăng mạnh, kéo theo áp lực chi phí ngày càng lớn. Điều đó buộc doanh nghiệp phải đánh giá lại liệu các tác vụ giao cho AI agent có tương xứng với chi phí bỏ ra hay không.

Áp lực này còn có thể gia tăng khi Anthropic và OpenAI chuyển một phần dịch vụ từ mô hình thuê bao cố định sang tính phí theo token, dựa trên lượng dữ liệu được xử lý. Mỗi nhân viên có thể sử dụng 10 hoặc 100, thậm chí 1.000 AI agent; nếu các agent này vận hành liên tục, mức tiêu thụ tài nguyên tính toán sẽ tăng vọt.

Workato, một công ty phần mềm, cho biết từ mùa hè năm ngoái, sau khi khoảng 1.300 nhân viên bắt đầu sử dụng AI agent, mức sử dụng đã tăng đột biến. Đến tháng 5, khi Anthropic chuyển sang cơ chế tính phí theo token, chi tiêu cho AI của công ty cũng tăng vọt.

Kosti Perikos, lãnh đạo mảng AI tạo sinh toàn cầu của Deloitte, cho biết chi phí tính toán hiện đã trở thành mối quan tâm của các CFO và hội đồng quản trị. Theo ông, cả người tiêu dùng lẫn doanh nghiệp đã quen với việc sử dụng AI giá rẻ hoặc miễn phí, nhưng thực tế không phải vậy.

Sam Altman, CEO OpenAI, cũng cho biết chi phí đã trở thành “một vấn đề khổng lồ” đối với khách hàng trong năm nay, trong khi năm ngoái chủ đề này gần như chưa được đặt ra.

Tháng trước, các nhà phân tích của Goldman Sachs dự báo việc sử dụng AI agent sẽ khiến lượng token tiêu thụ tăng gấp 24 lần vào năm 2030. Nhu cầu tính toán tăng mạnh vì thế có thể làm tình trạng thiếu chip trở nên nghiêm trọng hơn trong 12-18 tháng tới.