Ảnh: Shutterstock

Baseten, công ty cung cấp hạ tầng suy luận AI, ngày 29/9 (giờ địa phương) thông báo hợp tác với OpenAI để đưa các mô hình mở của mình lên marketplace doanh nghiệp của OpenAI. Động thái này cho phép khách hàng doanh nghiệp của OpenAI triển khai trực tiếp các mô hình do Baseten cung cấp trong Codex hoặc thông qua Responses API.

Theo Baseten, công ty hiện là một trong những nhà cung cấp mô hình mở có mặt trên marketplace doanh nghiệp của OpenAI. Nhờ đó, các nhà phát triển có thể lựa chọn và sử dụng các mô hình mở của Baseten ngay trong Codex, công cụ lập trình của OpenAI.

Khách hàng doanh nghiệp của OpenAI cũng có thể sử dụng các mô hình mở của Baseten trong phạm vi cam kết chi tiêu đã ký với OpenAI. Doanh nghiệp có thể triển khai trên Codex hoặc truy cập qua Responses API. Baseten cho biết cách tiếp cận này giúp doanh nghiệp tối ưu các tác vụ AI agent bằng cách kết hợp mô hình mở và mô hình đóng.

Baseten nhấn mạnh toàn bộ tác vụ suy luận được vận hành trên hạ tầng đặt tại Mỹ và hệ thống không lưu trữ đầy đủ lời nhắc (prompt). Doanh nghiệp có thể chỉ định khu vực triển khai, đồng thời áp dụng cơ chế xác thực và phân quyền chi tiết. Mức sử dụng cũng có thể được theo dõi theo từng mô hình, từng người dùng và từng key API.

Từ khóa

#Baseten #OpenAI #marketplace doanh nghiệp #mô hình mở #Codex #Responses API
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.