Tình trạng thiếu chip AI, đặc biệt là GPU, từ lâu đã là vấn đề quen thuộc của thị trường. Tuy nhiên, một cảnh báo mới đang xuất hiện: CPU cũng bắt đầu rơi vào tình trạng khan hiếm, tạo thêm áp lực hạ tầng đối với các tổ chức phát triển phần mềm.

Kaitlin Rese, người phụ trách nền tảng tại Anthropic, cho rằng các tổ chức phát triển phần mềm cần sớm nâng hiệu quả vận hành của toàn bộ ngăn xếp phần mềm để ứng phó với nguy cơ thiếu nguồn cung CPU.

Trên mạng xã hội X, bà cho biết trước đây doanh nghiệp chủ yếu phải lên kế hoạch từ sớm cho cơ sở dữ liệu hoặc GPU, còn CPU có thể bổ sung khá nhanh qua đám mây khi cần. Nhưng hiện nay, CPU cũng đã phải đặt trước. Với các đội ngũ vận hành hệ thống quy mô lớn, việc tính trước rủi ro thiếu CPU cần được đưa vào kế hoạch hạ tầng.

Theo bà, thời gian chờ giao máy chủ đã tăng từ mức 1-2 tuần lên khoảng 6 tháng, trong khi giá tăng thêm 10-20% kể từ tháng 3. Tình trạng thiếu hụt này được dự báo còn kéo dài trong vài quý tới.

Nguyên nhân chính đến từ AI agent. Loại hệ thống này phải liên tục lặp các tác vụ như thu thập ngữ cảnh, gọi công cụ và diễn giải kết quả. Phiên xử lý càng kéo dài, mức tiêu thụ CPU càng lớn. Khi agent thực thi mã hoặc thao tác trên trình duyệt, hệ thống còn phải cấp thêm sandbox hoặc container, qua đó tiếp tục làm tăng nhu cầu CPU.

Rese dẫn lại thông tin Intel công bố trong báo cáo kết quả kinh doanh, theo đó tại các trung tâm dữ liệu AI, tỷ lệ GPU/CPU đã giảm từ 8:1 xuống 4:1. Nếu khối lượng công việc của AI agent tiếp tục tăng, tỷ lệ này có thể giảm tiếp về 1:1. AMD cũng đưa ra nhận định tương tự.

Áp lực càng rõ hơn khi nhìn vào chuỗi cung ứng. Phần lớn chip logic hiện do TSMC sản xuất, tiếp theo là Intel và Samsung. Ở mảng bộ nhớ, ba nhà cung cấp chủ lực là SK hynix, Samsung và Micron. Khi nhu cầu AI tăng vọt, các doanh nghiệp này khó mở rộng ngay sản lượng nếu không có các khoản đầu tư kéo dài nhiều năm, với quy mô lên tới hàng chục tỷ USD.

Theo Rese, công suất sản xuất của TSMC là hữu hạn, trong khi phải phân bổ cho nhiều bên, từ GPU, CPU đến Apple, Qualcomm và Broadcom. Tình hình cũng tương tự ở nhóm sản xuất bộ nhớ như SK hynix, Samsung và Micron, khi HBM và DRAM phổ thông phải cạnh tranh trên cùng một wafer.

Xét riêng nhóm doanh nghiệp CPU, AMD không sở hữu nhà máy riêng nên phụ thuộc vào hạn mức sản xuất tại TSMC. Intel có nhà máy nhưng đang đối mặt vấn đề về tỷ lệ thành phẩm, đồng thời phải chuyển một phần dây chuyền chip PC sang phục vụ máy chủ. Giá DRAM cũng đi lên khi năng lực sản xuất được ưu tiên cho HBM.

Rese nhận định tình trạng thiếu CPU khó sớm được giải quyết trong vài quý tới và có thể trở thành biến số lớn đối với các đội phát triển phần mềm. Bà nêu ra 4 hướng ứng phó chính.

Thứ nhất, doanh nghiệp cần rà soát rõ CPU đang được dùng ở đâu và đâu là phần không thể tối ưu thêm. Theo bà, những workload đòi hỏi mức độ cô lập cao không thể dùng chung phần cứng với tenant khác nên hiệu suất thường thấp hơn. Một số workload cũng buộc phải chạy tại khu vực, region hoặc trên loại máy cụ thể. Những ràng buộc này cần được xác định sớm để tối ưu phân bổ tài nguyên.

Thứ hai, cần rút ngắn thời gian từ lúc mua máy chủ đến khi hệ thống thực sự đi vào vận hành. Rese nhấn mạnh việc mua được máy chủ mới chỉ là bước khởi đầu. Quá trình thiết lập cụm mới và đưa vào dịch vụ thực tế có thể kéo dài từ vài ngày đến vài tháng, vì vậy tối ưu quy trình triển khai là yếu tố then chốt.

Thứ ba, doanh nghiệp cần kiểm tra lại mức sử dụng của hạ tầng hiện có. Theo Rese, mức sử dụng CPU trung bình của Kubernetes trên toàn ngành chỉ quanh 10%, vì nhiều tổ chức thường dự phòng quá lớn theo mức tải đỉnh dự kiến nhưng không rà soát lại các giả định ban đầu. Đây là khu vực còn nhiều dư địa để cắt giảm lãng phí.

Thứ tư, cần nâng hiệu quả ngay trong ngăn xếp phần mềm. Bà cho rằng doanh nghiệp phải điều chỉnh cả mã nguồn lẫn kiến trúc hệ thống để giảm mức tiêu thụ CPU, không chỉ ở lớp dịch vụ API mà cả ở lớp AI agent.