OpenAI Ra Chế Độ Ultrafast, Cho GPT-5.6 Sol Chạy Nhanh Gấp 14 Lần

Ultrafast có thể sinh tới 750 token đầu ra mỗi giây, theo mô tả của OpenAI. Công ty nói chế độ này hướng tới tăng lượng công việc hữu ích hoàn thành trên mỗi giây.

OpenAI cho biết trước đây để có tốc độ thời gian thực thường phải chọn model nhỏ hơn hoặc chuyên biệt; Ultrafast mở hướng khác bằng cách tăng tốc model mạnh hơn. Chế độ này đang trong giai đoạn xem trước và chỉ cho một nhóm khách hàng sử dụng.

OpenAI nêu một số trường hợp ứng dụng doanh nghiệp phù hợp cho Ultrafast, gồm phản ứng sự cố, dịch vụ khách hàng và hỗ trợ, phân tích thị trường tài chính, và thương mại điện tử.

Ultrafast được vận hành nhờ quan hệ hợp tác giữa OpenAI và công ty sản xuất chip Cerebras. OpenAI dự định mở rộng quyền truy cập khi “năng lực” tăng lên.