OpenAI ra mắt chế độ Ultrafast cho GPT-5.6 Sol: Tốc độ tăng 14 lần, đạt 750 token/giây

Cảm ơn bạn đọc của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 14 tháng 8, OpenAI hôm nay (14/8) đã ra mắt thông báo về việc phát hành chế độ Ultrafast (siêu tốc độ) dưới dạng bản xem trước cho GPT-5.6 Sol, mô hình AI mạnh mẽ nhất của hãng. Chế độ này nhanh gấp 14 lần tốc độ xử lý tiêu chuẩn, với khả năng xuất tối đa 750 token mỗi giây.

Về khía cạnh hỗ trợ dịch vụ, OpenAI cho biết chế độ này được vận hành bởi Cerebras, với mục tiêu nâng cao hơn nữa tốc độ phản hồi của mô hình trong quy trình làm việc của người dùng.

OpenAI cho biết, trước đây người dùng không thể có được cả tốc độ và khả năng của mô hình cùng lúc; nếu muốn tốc độ xuất nhanh hơn, họ thường phải hy sinh năng lực của mô hình để chuyển sang các mô hình nhỏ hơn hoặc chuyên dụng hơn.

Tuy nhiên, Ultrafast có thể đạt được cả hai, biến việc "hoàn thành nhiều công việc giá trị hơn mỗi giây" trở thành một hướng đi mới. Các kịch bản ứng dụng sớm mà OpenAI liệt kê bao gồm: phản ứng sự cố và phân tích độ tin cậy, nghiên cứu tài chính và phân tích bảo mật, chăm sóc khách hàng và tương tác giọng nói, hỏi đáp sản phẩm và truy vấn kho hàng trong thương mại điện tử, cũng như nghiên cứu và thực nghiệm thời gian thực. IT đính kèm ảnh chụp màn hình liên quan bên dưới:

OpenAI cho biết chế độ này hướng tới các kịch bản kinh doanh đòi hỏi tính thời gian thực cực cao, hiện đang trong giai đoạn xem trước giới hạn và chỉ mở cho một nhóm nhỏ khách hàng. Công ty cho biết những thử nghiệm sớm này giúp xác định các khâu mà việc tăng tốc mang lại giá trị lớn nhất, đồng thời giúp quan sát xem mô hình có thể bắt kịp nhịp độ thao tác của người dùng hay không.