OpenAI ra mắt dòng GPT Realtime 2.1: Giảm 25% độ trễ, tối ưu hóa cho tương tác giọng nói

Theo tin từ IT之家 ngày 8 tháng 7, OpenAI đã đưa ra thông báo vào ngày hôm qua (7 tháng 7) về việc bổ sung hai mô hình mới là gpt-realtime-2.1 và gpt-realtime-2.1-mini vào các API của hãng. Theo công bố chính thức, độ trễ p95 của các mô hình này đã giảm ít nhất 25%.

Lưu ý từ IT之家: Độ trễ p95 (Percentile 95 Delay) là chỉ số quan trọng để đo lường tốc độ hệ thống, cho thấy 95% các yêu cầu của hệ thống đều được xử lý nhanh hơn khoảng thời gian này.

Hai mô hình này chủ yếu hướng tới các tác nhân (agent) giọng nói có độ trễ thấp và tương tác đa phương thức. OpenAI cho biết thông qua việc tối ưu hóa cơ chế bộ nhớ đệm (cache), độ trễ p95 của các mô hình Realtime giọng nói đã giảm ít nhất 25%.

Về chi phí sử dụng, giá cước của hai mô hình trên như sau:

gpt-realtime-2.1

Văn bản:

Phí đầu vào là 4 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,40 USD.

Phí đầu ra là 24 USD/1 triệu Tokens.

Âm thanh:

Phí đầu vào là 32 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,40 USD.

Phí đầu ra là 64 USD/1 triệu Tokens.

Hình ảnh:

Phí đầu vào là 5 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,50 USD.

Mô hình gpt-realtime-2.1-mini

Văn bản:

Phí đầu vào là 0,6 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,06 USD.

Phí đầu ra là 2,4 USD/1 triệu Tokens.

Âm thanh:

Phí đầu vào là 10 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,30 USD.

Phí đầu ra là 20 USD/1 triệu Tokens.

Hình ảnh:

Phí đầu vào là 0,8 USD/1 triệu Tokens, phí bộ nhớ đệm đầu vào là 0,08 USD.

Về khả năng, gpt-realtime-2.1-mini hỗ trợ đầu vào âm thanh và văn bản theo thời gian thực, đồng thời hỗ trợ Tool Use (sử dụng công cụ) và Function Calling (gọi hàm).

Các báo cáo cho thấy mô hình này có thể hoàn thành suy luận nội bộ trước khi thực hiện hành động và duy trì sự liên tục của cuộc hội thoại thông qua các lời dẫn giải bằng lời nói. Trong khi đó, gpt-realtime-2.1 được tăng cường hơn nữa về khả năng nhận dạng chữ và số, xử lý tiếng ồn và khoảng lặng, xử lý ngắt lời, tuân thủ chỉ dẫn và tùy chỉnh cường độ suy luận.

Cường độ suy luận hỗ trợ 5 mức: minimal, low, medium, high và xhigh. Mức mặc định là low; OpenAI khuyến nghị các tác nhân giọng nói trong môi trường sản xuất nên bắt đầu từ mức thấp.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT之家 đều bao gồm tuyên bố này.