Doanh nghiệp đang siết chặt chi tiêu cho trí tuệ nhân tạo, trong bối cảnh dữ liệu mới cho thấy việc lập trình viên dùng nhiều công cụ AI hỗ trợ viết mã không đồng nghĩa năng suất tăng tương ứng. Nếu trước đây mở rộng mức sử dụng AI từng được xem là lợi thế cạnh tranh, thì nay trọng tâm đang chuyển sang hiệu quả trên chi phí.

Theo Business Insider ngày 7/5 (giờ địa phương), công ty phân tích hiệu quả kỹ thuật Jellyfish đã công bố kết quả phân tích dữ liệu về người dùng Claude Code, công cụ AI coding của Anthropic. Kết quả cho thấy nhóm 10% lập trình viên sử dụng nhiều nhất tiêu thụ lượng token cao hơn khoảng 10 lần so với nhóm dùng ở mức trung bình, nhưng đầu ra chỉ cao hơn khoảng 2 lần.

Token là đơn vị mà AI sử dụng để xử lý văn bản và câu lệnh, đồng thời cũng là cơ sở tính phí. Mức sử dụng dịch vụ AI càng lớn, lượng token tiêu thụ càng cao và chi phí vận hành doanh nghiệp càng tăng.

Jellyfish cho rằng dữ liệu này cho thấy giới hạn của chiến lược đẩy mức sử dụng token lên tối đa, hay còn gọi là “token maxxing”. Nói cách khác, tăng mạnh mức sử dụng AI không bảo đảm năng suất sẽ tăng theo tỷ lệ tương ứng.

Nicholas Arcolano, phụ trách AI và nghiên cứu tại Jellyfish, cho biết doanh nghiệp hiện không chỉ muốn đẩy nhanh tốc độ phát triển phần mềm mà còn phải kiểm soát chặt chi phí. Theo ông, các giám đốc tài chính (CFO) đã bắt đầu trực tiếp rà soát chi tiêu cho AI.

Trong khảo sát, nhóm lập trình viên dùng AI nhiều nhất có mức sử dụng Claude Code hằng tuần lên tới 225 triệu token mỗi người. Trong khi đó, nhóm trung bình chỉ dùng khoảng 32 triệu token. Chênh lệch về mức tiêu thụ là rất lớn, nhưng phần tăng thêm về đầu ra lại tương đối hạn chế.

Dù vậy, việc triển khai công cụ AI coding vẫn được ghi nhận là có tác động tích cực đến năng suất. Jellyfish so sánh theo số lượng pull request được xử lý, một chỉ số phổ biến để đo hiệu quả phát triển phần mềm, và cho biết các nhóm dùng AI nhiều xử lý nhiều hơn khoảng 77% so với nhóm dùng ít.

Theo Jellyfish, vấn đề không còn là có sử dụng AI hay không, mà là xác định ngưỡng sử dụng hiệu quả nhất. Thay vì tiêu thụ token càng nhiều càng tốt, doanh nghiệp cần quản trị mức sử dụng để tối đa hóa năng suất trên mỗi đơn vị chi phí.

Arcolano cũng lưu ý rằng việc đánh giá năng suất lập trình viên chỉ dựa trên lượng token là không phù hợp. Khi mô hình AI hoặc cấu hình thay đổi, mức tiêu thụ token có thể biến động mạnh, khiến chỉ số này không phản ánh chính xác hiệu quả công việc.

Ông nhấn mạnh doanh nghiệp nên ưu tiên các chỉ số đầu ra như “chi phí trên mỗi pull request”, thay vì chỉ nhìn vào tổng lượng token tiêu thụ. Theo Arcolano, nếu chi phí token tăng quá nhanh, CFO khó tránh khỏi lo ngại, và chi phí vận hành AI có thể trở thành gánh nặng quản trị.

Ngành công nghệ hiện cũng chứng kiến ngày càng nhiều trường hợp doanh nghiệp chạy đồng thời nhiều AI agent để giải cùng một vấn đề theo các cách khác nhau. Chẳng hạn, 5 AI agent có thể tạo ra 5 đoạn mã khác nhau để lập trình viên chọn phương án tối ưu.

Cách làm này có thể giúp nâng hiệu quả, nhưng đồng thời cũng đẩy chi phí đi lên. Arcolano cho biết mô hình đó có thể vẫn rẻ hơn so với chỉ dùng nhân lực, song doanh nghiệp vẫn phải trả tiền cho nhiều đầu ra cuối cùng không được sử dụng.

Jellyfish đánh giá tiêu chí sử dụng AI trong ngành công nghệ đang chuyển từ “dùng nhiều” sang “dùng hiệu quả”. Nếu ở giai đoạn đầu, mức độ sử dụng AI từng được xem là biểu tượng của đổi mới, thì hiện nay doanh nghiệp phải đồng thời chứng minh được năng suất thực tế và hiệu quả chi phí.

Vì vậy, thay vì để một nhóm nhỏ lập trình viên sử dụng AI ở mức quá cao, nhiều doanh nghiệp đang quan tâm hơn đến việc nâng mức sử dụng của số đông kỹ sư lên ngưỡng trung bình và ổn định. Giới phân tích cho rằng cuộc cạnh tranh của các công cụ AI coding trong thời gian tới có thể không chỉ nằm ở hiệu năng, mà còn ở khả năng tối ưu năng suất trên chi phí.