Google vừa công bố TorchTPU, một dự án mã nguồn mở nhằm giúp nhà phát triển chạy các ứng dụng AI xây dựng trên PyTorch trên TPU và Google Cloud mà không phải viết lại mã.

Theo TechCrunch ngày 20/10 (giờ địa phương), TorchTPU được thiết kế để các ứng dụng PyTorch hiện có có thể vận hành trên TPU với rào cản chuyển đổi thấp hơn. Nhà phát triển chỉ cần điều chỉnh một số cấu hình để đưa ứng dụng sang TPU và hạ tầng đám mây của Google.

PyTorch là framework mã nguồn mở do Meta ra mắt năm 2016, hiện được sử dụng rộng rãi trong xây dựng, huấn luyện và triển khai mô hình AI. Một số thống kê cho thấy khoảng 85% ứng dụng AI đang sử dụng PyTorch.

Ở giai đoạn PyTorch ra đời, GPU của Nvidia là nền tảng phần cứng tiêu chuẩn trong nghiên cứu AI. Vì vậy, nhiều tính năng của PyTorch được phát triển xoay quanh hệ sinh thái chip của Nvidia. Đến năm 2022, Meta đã chuyển giao PyTorch cho tổ chức phi lợi nhuận Linux Foundation.

Trước đó một ngày, Amazon cũng giới thiệu TorchNeuron, một dự án hỗ trợ đưa ứng dụng PyTorch sang chip AI Trainium của hãng và AWS mà không cần viết lại mã.

TechCrunch cho biết Amazon cũng đã đóng góp mã nguồn cho dự án PyTorch, đồng thời thúc đẩy việc tách bớt nhiều tính năng khỏi sự phụ thuộc vào chip Nvidia.

Google cho biết đã hợp tác trực tiếp với Meta, Hugging Face, Infrakt - đơn vị phát triển vLLM, cùng RadixArc - nhà phát triển Sglang, nhằm bảo đảm TorchTPU tương thích tốt với các công cụ chủ chốt trong hệ sinh thái phát triển AI.

Cùng với TorchTPU, Google cũng ra mắt TPU Agent Suite để hỗ trợ quá trình chuyển ứng dụng và gỡ lỗi. LiteRT, nền tảng chạy AI trên smartphone, laptop và thiết bị nhúng, cũng được cập nhật để tích hợp tốt hơn với các ứng dụng PyTorch.

Theo đánh giá của TechCrunch, những động thái này vẫn chưa đủ để khẳng định các nhà phát triển AI sẽ sớm rời bỏ phần cứng Nvidia trên diện rộng. Dù vậy, Google và Amazon đang từng bước hạ thấp rào cản chuyển đổi sang các dòng chip thay thế và dịch vụ đám mây, qua đó thu hẹp lợi thế cạnh tranh của Nvidia.