88
Thủ thuật
Hệ thống Nvidia LPX: Đột phá tốc độ giải mã cho các mô hình AI nhỏ
(giờ Việt Nam)
Tóm tắt AI
Nvidia giới thiệu hệ thống LPX sử dụng SRAM siêu tốc thay thế HBM, giúp đạt tốc độ giải mã ấn tượng hơn 3.400 token/giây cho các mô hình nhỏ như Gemma 2 2B. Công nghệ này hứa hẹn sẽ kết hợp cùng GPU để tối ưu hóa hiệu suất cho các mô hình AI quy mô lớn.
Bài viết được AI dịch và tổng hợp tự động từ X: Epoch AI (@EpochAIResearch). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.