Nghiên cứu
Intel Arc Pro B70 gây bất ngờ: Vượt mặt RTX 5090D trong thử nghiệm suy luận DeepSeek R1
(giờ Việt Nam)
Tóm tắt AI
Trong thử nghiệm suy luận mô hình DeepSeek R1-Distill Qwen 32B, card đồ họa Intel Arc Pro B70 đạt tốc độ xử lý ấn tượng lên tới 2320,76 token/giây, vượt qua cả RTX 5090D và 4090D ở các mức độ tải công việc cao.
Bản dịch AI
Theo tin từ IT ngày 9 tháng 7, trang tin công nghệ Wccftech đã đăng tải bài viết vào hôm qua (8 tháng 7), báo cáo rằng nhà sản xuất card đồ họa GUNNIR đã thử nghiệm GPU Intel Arc Pro B70 và cho thấy hiệu suất suy luận trên mô hình DeepSeek R1 vượt qua cả hai dòng card RTX 5090D và RTX 4090D của NVIDIA.
Môi trường thử nghiệm đều sử dụng cấu hình 4 card đồ họa, tập trung so sánh hiệu suất suy luận mô hình ngôn ngữ lớn (AI LLM) giữa ba mẫu card: Intel Arc Pro B70 32GB, NVIDIA RTX 5090D 32GB và RTX 4090D 24GB.
Mô hình được sử dụng để thử nghiệm là DeepSeek R1-Distill Qwen 32B FP16, với độ dài đầu vào/đầu ra cố định là 128 tokens, bao phủ phạm vi đồng thời (concurrency) từ 1 đến 512. Chỉ số cốt lõi của bài kiểm tra là thông lượng token/s, dùng để đo lường hiệu suất đầu ra khi suy luận mô hình ngôn ngữ lớn.
Khi mức đồng thời dưới 32, RTX 5090D dẫn đầu, RTX 4090D xếp thứ hai, còn Arc Pro B70 cho hiệu suất ngang ngửa RTX 4090D; khi đạt mức đồng thời 32 và 64, Arc Pro B70 đã có thể bắt kịp và vượt qua RTX 4090D.
Khi mức đồng thời đạt 128, thông lượng token của Arc Pro B70 cao hơn RTX 5090D 8,6% và cao hơn RTX 4090D 34,2%. Khi mức đồng thời đạt 256, Arc Pro B70 cao hơn RTX 5090D 7,5% và cao hơn RTX 4090D 48,7%. Kết quả tương tự cũng được ghi nhận ở mức đồng thời 512. IT đính kèm hình ảnh liên quan dưới đây:
GPU Intel Arc Pro B70 thể hiện hiệu suất vượt trội nhất về thông lượng token, với tốc độ lên tới 2320,76 token mỗi giây.
Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian chọn lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.
Bài viết được AI dịch và tổng hợp tự động từ IT Home. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.