Sản phẩm
Trung Quốc ra mắt 'trạm AI di động' đầu tiên: Tối ưu hóa điện toán và năng lượng
(giờ Việt Nam)
Tóm tắt AI
Trung Quốc vừa giới thiệu trạm AI di động đặt trong container 40 feet, có khả năng triển khai chỉ trong 6-8 giờ. Giải pháp này giúp giảm 25% chi phí vận hành bằng cách kết hợp linh hoạt giữa nguồn điện tái tạo và sức mạnh tính toán cho các mô hình AI.
Bản dịch AI
Cảm ơn bạn đọc IT có nickname đã gửi thông tin đóng góp!
Theo tin từ IT ngày 29 tháng 8, Đài Truyền hình Trung ương Trung Quốc (CCTV) đưa tin, nhà máy token di động trên xe đầu tiên tại Trung Quốc vừa chính thức ra mắt. Bằng cách tích hợp hệ thống quản lý năng lượng và sức mạnh tính toán nội địa, nhà máy này có thể đáp ứng linh hoạt hơn các nhu cầu về sức mạnh tính toán AI, đồng thời khám phá mô hình phối hợp mới giữa điện năng và tính toán, vừa giúp tiêu thụ năng lượng mới, vừa giảm chi phí vận hành sức mạnh tính toán.
Theo thông tin IT nắm được từ bản tin gốc, nhà máy token di động trên xe này sử dụng container tiêu chuẩn 40 feet, toàn bộ xe áp dụng thiết kế tích hợp điện-tính-lạnh và lưu trữ-tính toán-mạng. Phần đầu xe có thể sử dụng xe kéo điện, hỗ trợ triển khai 9 tủ rack, được trang bị giao diện nhanh tích hợp điện năng và truyền thông, cho phép kết nối mạng nhanh chóng giữa nhiều xe để hình thành cụm sức mạnh tính toán di động, chỉ mất từ 6-8 giờ từ khi đến nơi cho đến khi hoàn tất chạy thử nghiệm.
Được biết, với nguồn điện 120 kW, chiếc xe này có thể cung cấp khoảng 50P đến 100P sức mạnh tính toán, về lý thuyết có thể hỗ trợ các tác vụ suy luận cho hai mô hình ngôn ngữ lớn (LLM) nội địa.
Khi nguồn năng lượng mới dồi dào và giá điện thấp, xe tính toán có thể di chuyển đến các trạm biến áp gần nguồn năng lượng này để kết nối, giúp nâng cao khả năng tiêu thụ năng lượng mới và giảm chi phí vận hành. Theo tính toán, việc sử dụng phương thức kết nối tính toán di động giúp giảm tổng chi phí khoảng 25%, từ đó tạo ra các dịch vụ token có hiệu năng chi phí tốt hơn cho các kịch bản ứng dụng khác nhau.
Ngoài ra, nhà máy token di động trên xe còn có thể triển khai nhanh chóng tại các trạm, cung cấp sức mạnh tính toán khẩn cấp, hoặc cung cấp sức mạnh tính toán linh hoạt tại chỗ trong quá trình thực hiện các dự án cơ sở hạ tầng lớn, đáp ứng nhu cầu cấp thiết về sức mạnh tính toán linh hoạt, độ trễ thấp, hiện thực hóa việc "sức mạnh tính toán theo chân token".
Bài viết được AI dịch và tổng hợp tự động từ IT Home. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.