Theo Peter Griffiths, nhà sáng lập kiêm chủ tịch Argyll Data Development, doanh nghiệp không nên đánh giá chi phí triển khai AI chỉ qua giá token hay hiệu năng mô hình. Khi AI rời giai đoạn thử nghiệm để đi vào các hoạt động cốt lõi, bài toán cần được nhìn ở quy mô rộng hơn, bao gồm hạ tầng và chi phí vận hành dài hạn.

Ngày 18/8 (giờ địa phương), trên TechRadar, Peter Griffiths cho rằng khi AI doanh nghiệp được đưa vào quy trình vận hành thực tế, cách tiếp cận với chi phí cũng phải thay đổi. Theo ông, điều quan trọng không phải là giá của một token, mà là doanh nghiệp có thể duy trì năng lực AI một cách bền vững, dự báo được chi phí và phù hợp với quy mô vận hành hay không.

Về hình thức, chi phí dịch vụ AI thường được tính theo token. Tuy nhiên, nền tảng thực sự phía sau lại phụ thuộc vào hạ tầng vật lý như năng lực tính toán, bộ nhớ, mạng, điện năng và hệ thống làm mát. Khi AI đi vào môi trường sản xuất và xử lý hàng triệu yêu cầu suy luận, chỉ một chênh lệch nhỏ về hiệu quả hạ tầng cũng có thể tích lũy theo thời gian và tạo ra mức chênh lệch chi phí lớn.

Griffiths cho rằng hạ tầng chuyên dụng tối ưu cho suy luận có thể cải thiện hiệu quả sử dụng điện so với hạ tầng chủ yếu phục vụ huấn luyện. Khi mức tiêu thụ điện giảm, nhu cầu làm mát và độ phức tạp trong thiết kế cơ sở vật chất cũng giảm theo, từ đó giúp tiết kiệm chi phí vận hành trong suốt vòng đời hạ tầng.

Ông cũng nhấn mạnh mô hình tính phí theo token vẫn có chỗ đứng nhất định. Trong giai đoạn thử nghiệm AI hoặc khi nhu cầu biến động mạnh, đây vẫn là lựa chọn linh hoạt. Tuy nhiên, một khi AI được tích hợp sâu vào công việc thường nhật và lượng token tiêu thụ tăng liên tục, doanh nghiệp sẽ gặp nhiều khó khăn hơn trong việc dự báo và kiểm soát chi phí. Số token chỉ phản ánh mức độ sử dụng AI, nhưng không cho thấy mức sử dụng đó tạo thêm bao nhiêu doanh thu hay cải thiện năng suất đến đâu.

Một phương án được bài viết đề cập là doanh nghiệp tự xây dựng hạ tầng suy luận chuyên dụng. Thay vì trả tiền theo từng lần sử dụng, doanh nghiệp có thể chủ động bảo đảm năng lực AI dựa trên chi phí vận hành cố định, qua đó tăng quyền kiểm soát đối với hiệu năng, vị trí dữ liệu và khả năng phục hồi của hệ thống. Việc kết hợp nguồn năng lượng tái tạo nội bộ với hệ thống lưu trữ năng lượng thời lượng dài cũng có thể được cân nhắc nhằm giảm biến động chi phí điện.

Bài viết cho rằng thước đo hiệu quả AI cũng cần thay đổi, từ câu hỏi “đã dùng bao nhiêu token” sang “đã tạo ra kết quả kinh doanh gì”. Trong bối cảnh các mô hình nền tảng liên tục được cập nhật, doanh nghiệp không chỉ phải quản lý chi phí mà còn phải theo dõi tác động của những thay đổi này tới hiệu năng, tuân thủ quy định và rủi ro vận hành.

Theo Griffiths, năng lực cạnh tranh trong AI doanh nghiệp không nằm ở việc mua được token rẻ nhất, mà ở khả năng xây dựng một nền tảng AI bền vững, có chi phí dự báo được và tạo ra giá trị kinh doanh thực chất.