Step Edge: Bộ mô hình AI 'tất cả trong một' của StepStar tối ưu cho điện thoại và ô tô

Theo tin từ IT ngày 12 tháng 7, StepOne.ai hôm nay đã công bố ra mắt bộ sản phẩm mô hình biên (edge model) Step Edge, bao gồm bốn sản phẩm: mô hình nền tảng Step Edge, Step Edge Audio, Step Edge GUI và Step Edge Gen.

Theo tìm hiểu của IT, bốn mô hình này hướng tới các kịch bản thiết bị đầu cuối như điện thoại di động và ô tô, với mục tiêu đưa các Agent không chỉ dừng lại ở đám mây mà có thể thực sự đi vào thiết bị, phản hồi nhanh hơn tại chỗ, bảo vệ quyền riêng tư tốt hơn, đồng thời hoàn thành các tác vụ phức tạp hơn thông qua sự phối hợp giữa thiết bị và đám mây.

Đồng thời, Step Edge sở hữu ba điểm nổi bật cốt lõi:

Độ trễ cục bộ cực thấp: Hỗ trợ thực thi toolcall tại thiết bị với độ trễ thấp tới 0,1 giây, các tác vụ đơn giản, tần suất cao có thể được phản hồi theo thời gian thực ngay tại chỗ, giảm sự phụ thuộc vào đường truyền đám mây.

Bảo vệ quyền riêng tư toàn diện: Các thông tin đa phương thức như văn bản, hình ảnh, giọng nói có thể được xử lý cục bộ, dữ liệu nhạy cảm không rời khỏi thiết bị, phù hợp hơn với các kịch bản yêu cầu quyền riêng tư cao như điện thoại di động và ô tô.

Phối hợp thiết bị - đám mây nguyên bản: Các tác vụ đơn giản, tác vụ trong điều kiện mạng yếu/không có mạng được phản hồi nhanh chóng bởi thiết bị, trong khi các tác vụ suy luận phức tạp và chuỗi tác vụ dài sẽ do đám mây đảm nhận, giúp đạt được sự cân bằng tổng thể về tốc độ, năng lực và chi phí.

Ngoài ra, dòng mô hình này còn có thể đi kèm với công cụ Step Inference NPU, giúp tối ưu hóa suy luận cho phần cứng thiết bị, từ đó giảm thiểu hơn nữa độ trễ từ đầu đến cuối đối với các hình thức đầu vào đa dạng như văn bản, hình ảnh và giọng nói.

Tham khảo:

Step Edge | Efficient Multimodal Models for Real-World Edge Scenarios

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.