Infinity, một startup hạ tầng AI, đã huy động được 15 triệu USD trong vòng gọi vốn mới, qua đó đạt mức định giá 100 triệu USD. Theo TechCrunch ngày 20/7 (giờ địa phương), vòng đầu tư có sự tham gia của Touring Capital, Principal VC cùng một số nhà nghiên cứu đến từ OpenAI và Anthropic.

Công ty đang phát triển phần mềm giúp các mô hình AI chạy hiệu quả hơn trên nhiều loại chip. Trọng tâm của Infinity là một lớp kernel có thể đóng vai trò thay thế CUDA của Nvidia.

Hiện nay, các framework AI phổ biến như PyTorch và TensorFlow được xây dựng trên nền tảng CUDA. Nhờ đó, nhà phát triển có thể chạy ứng dụng viết bằng các ngôn ngữ như Python trên chip Nvidia mà không phải tự xây dựng lớp chuyển đổi riêng cho phần cứng.

Tuy nhiên, nhiều startup phát triển ứng dụng AI không có đủ nguồn lực lẫn năng lực kỹ thuật để tự viết kernel, tức lớp phần mềm cấp thấp dùng để điều khiển chip, hoặc chuyển ứng dụng sang các dòng chip AI khác. Infinity đang phát triển một lớp kernel dùng chung có thể hoạt động trên nhiều kiến trúc phần cứng, bao gồm SRAM, GPU, chip di động và systolic array. Mục tiêu của công ty là xây dựng một thư viện suy luận dùng chung có thể chạy trên mọi loại chip.

Infinity được thành lập vào năm ngoái bởi Jeremy Nixon, nhà nghiên cứu từng làm việc tại Google Brain. Nixon đồng thời là nhà sáng lập cộng đồng mạng lưới hacker AGI House.