Majestic Labs ra mắt máy chủ AI 'Prometheus' với RAM LPDDR6 lên tới 128TB

Theo tin từ IT ngày 2 tháng 8, trang tin công nghệ TechRadar hôm nay đưa tin, công ty khởi nghiệp Majestic Labs vừa công bố ra mắt máy chủ AI Prometheus. Sản phẩm mới sử dụng sự kết hợp giữa AIU và bộ nhớ LPDDR6, nhằm thách thức sự kết hợp giữa GPU và HBM của NVIDIA.

Theo báo cáo, máy chủ Prometheus không sử dụng GPU mà thay vào đó là bộ xử lý Ignite AI (AIU), kết hợp các nhân Arm với các engine vector và tensor RISC-V. Mỗi máy Prometheus có thể tùy chọn cấu hình tối đa 12 AIU cùng với 8TB-128TB bộ nhớ LPDDR6.

Đồng thời, một tủ rack 40U tiêu chuẩn có thể lắp đặt tối đa 4 máy chủ Prometheus với tổng công suất tiêu thụ là 120kW. Hệ thống sử dụng tản nhiệt bằng chất lỏng thay vì làm mát bằng không khí truyền thống. Phía công ty tuyên bố rằng một tủ rack của Majestic có dung lượng bộ nhớ tương đương với 25 tủ rack NVIDIA NVL72 Vera Rubin, đồng thời tiêu thụ điện năng thấp hơn so với NVIDIA.

Ngoài ra, máy chủ này dự kiến sẽ có mặt trên thị trường vào năm tới, tuân thủ tiêu chuẩn OCP (Open Compute Project) và tương thích với các framework PyTorch, vLLM và OpenAI Triton.

Tuyên bố quảng cáo: Các liên kết ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian chọn lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.