Inspur Information: Đột phá với hệ thống hỗ trợ 40.000 AI Agent và mô hình đa tác tử

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

2026-07-13 19:59:57 Nguồn: QbitAI

Đồng thời ra mắt tủ rack máy chủ làm mát bằng chất lỏng nguyên bản CPU và siêu node tích hợp đa mô hình.

Nhiệm vụ cốt lõi của cơ sở hạ tầng AI đã chuyển dịch từ việc hỗ trợ suy luận mô hình lớn (Large Model Inference) sang hỗ trợ vận hành quy mô lớn các tác nhân thông minh (Agent) và sản xuất liên tục các Token chất lượng cao.

Theo dữ liệu từ IDC, quy mô thị trường AI Agent dành cho doanh nghiệp tại Trung Quốc năm 2025 đạt khoảng 19 tỷ nhân dân tệ, dự kiến tốc độ tăng trưởng kép từ năm 2025 đến 2028 sẽ vượt mức 110%. Nhận định của Gartner còn trực diện hơn: đến năm 2026, 40% ứng dụng doanh nghiệp sẽ tích hợp các AI Agent theo tác vụ.

Trong giai đoạn suy luận của mô hình lớn, cơ sở hạ tầng AI chỉ cần hỗ trợ một đầu vào và một đầu ra.

Khi bước vào giai đoạn Agent, cơ sở hạ tầng cần phải hỗ trợ việc phân tách tác vụ, gọi công cụ, cộng tác đa vòng và vận hành liên tục, điều này đặt ra những yêu cầu hoàn toàn khác biệt về năng lực tính toán.

Đằng sau điều này thực chất là khoảng cách năng lực ở hai hướng: một là liệu các Agent khổng lồ có thể vận hành ổn định ở quy mô lớn hay không, hai là liệu nhiều mô hình có thể phối hợp làm việc để giúp Agent trở nên thông minh hơn hay không.

Tại Hội nghị Tính toán Mở 2026, Inspur Information đã đưa ra các giải pháp sản phẩm mới cho hai khoảng cách này.

Agent đặt ra yêu cầu mới cho cơ sở hạ tầng

Trong kỷ nguyên Agent, con người cũng có những yêu cầu mới đối với cơ sở hạ tầng AI.

Trước đây, khi doanh nghiệp triển khai AI, hầu hết chỉ kết nối một hoặc hai mô hình để xử lý các tác vụ tương đối độc lập, gọi một lần, trả kết quả một lần là xong việc.

Agent thì không như vậy.

Một ứng dụng Agent cần phải phân tách tác vụ trước, sau đó từng bước gọi công cụ, cộng tác qua lại, và đằng sau đó có thể là cả một nhóm Sub-Agent đang vận hành cùng lúc.

Sau khi triển khai vào doanh nghiệp, số lượng Agent thậm chí có thể lên tới hàng nghìn, hàng vạn.

Làm thế nào để nhóm Agent quy mô lớn như vậy vận hành ổn định và phối hợp nhịp nhàng đã trở thành một vấn đề mới không thể né tránh.

Ngoài việc số lượng Agent ngày càng tăng, áp lực lên phía mô hình đơn lẻ cũng đang gia tăng.

Một số mô hình giỏi suy luận logic, một số lại giỏi viết văn bản; sự lệch lạc về năng lực này không thể giải quyết bằng cách chồng chất tham số.

Nhưng các tác vụ thực tế lại ngày càng trở nên phức tạp, khó có thể kỳ vọng một mô hình duy nhất có thể làm được tất cả.

Vì vậy, làm thế nào để nhiều mô hình phân công cộng tác, hỗ trợ lẫn nhau đã trở thành một vấn đề khác cần phải giải quyết.

Để hai việc này thực sự đi vào thực tế, bắt buộc phải có cơ sở hạ tầng tính toán nền tảng làm tiên phong.

Sau khi các nhu cầu mới xuất hiện, thay đổi đầu tiên của cơ sở hạ tầng chính là CPU trở nên quan trọng hơn và đóng vai trò lớn hơn.

Trong mô hình hỏi đáp trước đây, suy luận mô hình lớn là một đầu vào một đầu ra, dựa nhiều hơn vào GPU để vận hành.

Nhưng Agent thì khác, nó cần thực hiện phân tách tác vụ, gọi công cụ, cộng tác đa vòng và tổng hợp kết quả; những phép tính số nguyên và suy luận logic này đều chạy trên CPU.

Hơn nữa, Agent không phải chạy xong là "tan làm", nhiều Agent bắt buộc phải trực tuyến quanh năm, thời gian vận hành bị kéo dài đáng kể.

Do đó, trong ngành AI Infra, tỷ lệ phân bổ năng lực tính toán cũng đang thay đổi, từ chỗ lấy GPU làm trung tâm chuyển sang hệ thống tính toán đa dạng phối hợp.

Sau khi tầm quan trọng của CPU tăng lên, vấn đề tiếp theo cần đối mặt là mật độ công suất.

Phó Tổng giám đốc Inspur Information, ông Triệu Soái (Zhao Shuai), cho biết công suất tủ rack AI trong nước sẽ đạt 300 kW trong năm nay, và một số tủ rack trên toàn cầu đã bước vào mức megawatt.

Nếu phía CPU vẫn dừng lại ở mật độ vài nghìn watt mỗi tủ, thì hoàn toàn không thể tương thích với cơ sở hạ tầng điện hoàn toàn mới của trung tâm dữ liệu.

Khi công suất tủ rack không ngừng tăng lên, tản nhiệt trở thành vấn đề; giới hạn tản nhiệt 40 đến 50 kW mỗi tủ của hệ thống làm mát bằng không khí truyền thống đã không còn chịu nổi, giải pháp làm mát bằng chất lỏng đã trở thành lựa chọn bắt buộc.

Vận hành 40.000+ Agent trên một tủ rack

Để hiện thực hóa việc vận hành quy mô lớn cho Agent, Inspur Information đã ra mắt máy chủ tủ rack nguyên bản làm mát bằng chất lỏng CPU đầu tiên trong ngành.

Máy chủ này hỗ trợ tối đa 384 bộ vi xử lý CPU dựa trên kiến trúc OCM (Open Compute Module) trong một tủ rack, tương thích với cả x86 và ARM, có thể hỗ trợ hơn 40.000 Agent vận hành phối hợp.

Quy mô này gấp 40 lần so với giải pháp "Qi Qian Xia" mà Inspur Information đã công bố vào tháng 4 năm nay.

"Qi Qian Xia" khi đó sử dụng một máy chủ 2U đơn lẻ để triển khai 1.000 OpenClaw, còn lần này, Inspur Information đã trực tiếp lấp đầy toàn bộ tủ rack bằng các Agent.

Hơn nữa, tủ rack này sử dụng kiến trúc OCM, có thể tương thích với các thế hệ và kiến trúc bộ vi xử lý khác nhau, không cần phải thiết kế lại toàn bộ hệ thống cho mỗi thế hệ chip mới, nhờ đó chu kỳ nghiên cứu phát triển được rút ngắn đáng kể.

Để nhồi nhét 384 CPU vào một tủ rack, tản nhiệt là rào cản không thể bỏ qua.