Uber cho biết đã giữ được chi phí AI ở mức ổn định, bất chấp nhu cầu sử dụng AI agent tăng mạnh trong nội bộ công ty.

Theo Axios ngày 27/8 (giờ địa phương), lượng yêu cầu AI agent mỗi tuần tại Uber đã tăng 9,4 lần kể từ tháng 2. Dù vậy, tổng chi tiêu cho AI của công ty nhìn chung được giữ ổn định từ tháng 4.

Trong một bài viết trên blog, kỹ sư trưởng Uber Uday Kiran Medisetti cho biết chi phí cho mỗi 1.000 yêu cầu, khi tính trên cùng một mô hình AI, đã giảm gần 34% so với đỉnh ghi nhận vào tháng 4. Chi phí trên mỗi phiên cũng thấp hơn 52% so với mức cao nhất của tháng 6.

Theo Uber, hiện hơn 70% đề xuất thay đổi mã nguồn đã được AI agent xử lý. Các kỹ sư của công ty đang chạy hơn 30.000 tác vụ AI agent mỗi ngày, trong khi số người dùng các công cụ AI tăng hơn 4 lần. Tuy nhiên, chi phí token vẫn đi xuống.

Để kiểm soát chi phí, Uber phân bổ tác vụ sang các mô hình phù hợp dựa trên chi phí và hiệu năng. Những tác vụ nhỏ được chuyển sang các mô hình rẻ hơn. Công ty cũng áp trần 400.000 token cho mỗi phiên hội thoại, dù mô hình đang sử dụng có thể hỗ trợ tối đa 1 triệu token.

Các kỹ sư có thể theo dõi chi phí theo từng phiên theo thời gian thực trực tiếp trên terminal. Uber đồng thời kéo dài thời gian lưu cache prompt từ 5 phút lên 1 giờ, do kỹ sư thường để phiên làm việc mở quá 5 phút khi rời máy.

Xu hướng doanh nghiệp chuyển sang mô hình open-weight để tiết kiệm chi phí cũng đang lan rộng. Trên mạng xã hội X, CTO của Uber là Praveen Neppalli cho biết việc thử nghiệm mô hình open-weight là một trong những yếu tố giúp công ty cắt giảm chi phí. Theo ông, Uber “liên tục đánh giá và triển khai mô hình phù hợp cho từng trường hợp sử dụng”.

Trước đó, trong cuộc phỏng vấn với The Information hồi tháng 4, Praveen Neppalli cho biết Uber đã dùng hết ngân sách AI cho năm 2026.