OpenAI vừa công bố Ultrafast, chế độ mới dành cho GPT 5.6 Sol, với khả năng tăng tốc xử lý lên tới 14 lần và tạo tối đa 750 token đầu ra mỗi giây. Hiện tính năng này mới được cung cấp dưới dạng preview.
Theo TechCrunch ngày 13/8 (giờ địa phương), Ultrafast được OpenAI phát triển nhằm đẩy mạnh đáng kể tốc độ xử lý tác vụ của GPT 5.6 Sol, mô hình chủ lực mới nhất của hãng.
OpenAI cho biết trước đây, để đáp ứng nhu cầu phản hồi theo thời gian thực, người dùng thường phải chuyển sang các mô hình nhỏ hơn hoặc được tối ưu cho từng tác vụ riêng. Với Ultrafast, GPT 5.6 Sol có thể xử lý khối lượng công việc lớn hơn trong cùng một đơn vị thời gian.
Các lĩnh vực ứng dụng chính của Ultrafast được OpenAI nêu ra gồm ứng phó sự cố, chăm sóc và hỗ trợ khách hàng, phân tích thị trường tài chính và thương mại điện tử.
Hiện Ultrafast mới được cung cấp cho số lượng hạn chế khách hàng. Tính năng này được triển khai thông qua hợp tác với công ty bán dẫn Cerebras. OpenAI cho biết sẽ mở rộng quyền truy cập khi năng lực xử lý được nâng lên.
Trước đó, Anthropic cũng đã bổ sung chế độ tăng tốc cho Claude. Tuy nhiên, OpenAI cho biết Ultrafast đạt tốc độ cao hơn.