Gartner: Chi phí suy luận AI sẽ vượt mặt chi phí huấn luyện vào năm 2026

Theo tin từ IT ngày 11 tháng 8, tổ chức nghiên cứu thị trường Gartner hôm qua (10 tháng 8) đã đăng tải một bài viết dự báo rằng, chi tiêu toàn cầu cho cơ sở hạ tầng tối ưu hóa AI dưới dạng dịch vụ (AI-optimized IaaS) sẽ đạt 42 tỷ USD vào năm 2026 (IT lưu ý: theo tỷ giá hiện tại tương đương khoảng 283,725 tỷ Nhân dân tệ), tăng 96% so với cùng kỳ năm ngoái.

Theo định nghĩa trong bài viết, AI-optimized IaaS là các dịch vụ cơ sở hạ tầng đám mây được tối ưu hóa cho việc huấn luyện AI, suy luận (inference) và triển khai mô hình, thường chú trọng vào tài nguyên tính toán, xử lý dữ liệu và hiệu suất vận hành mô hình. Người dùng không cần phải tự xây dựng cụm máy chủ hoàn chỉnh mà có thể truy cập tài nguyên trên đám mây theo nhu cầu.

Tổ chức này ước tính rằng vào năm 2026, cùng với việc các kịch bản AI tác tử (agent AI) được triển khai nhanh chóng, chi tiêu cho suy luận AI toàn cầu [23,3 tỷ USD (tương đương khoảng 157,4 tỷ Nhân dân tệ theo tỷ giá hiện tại)] sẽ vượt qua chi tiêu cho huấn luyện [19 tỷ USD (tương đương khoảng 128,352 tỷ Nhân dân tệ theo tỷ giá hiện tại)].

Các tác vụ suy luận dự kiến sẽ chiếm 55% chi tiêu cho AI-optimized IaaS vào năm 2026, tăng lên 59% vào năm 2027, qua đó làm thay đổi trọng tâm đầu tư vào cơ sở hạ tầng đám mây.

Suy luận là quá trình mô hình tiếp nhận đầu vào từ người dùng và tạo ra kết quả sau khi đã hoàn tất huấn luyện. Ví dụ, chatbot trả lời câu hỏi, hệ thống gợi ý lọc nội dung, hay phần mềm doanh nghiệp tự động xử lý tài liệu đều là các tác vụ suy luận.

Theo Hardeep Singh, chuyên gia phân tích cấp cao tại Gartner, việc tỷ trọng chi tiêu cho suy luận hiện đã vượt qua huấn luyện là dấu hiệu cho thấy các tổ chức đang dần bước ra khỏi giai đoạn thử nghiệm để tiến tới các ứng dụng thực tế trong sản xuất.

Tổng chi tiêu cho IaaS toàn cầu dự kiến sẽ tăng từ 222,17 tỷ USD (tương đương khoảng 1,5 nghìn tỷ Nhân dân tệ theo tỷ giá hiện tại) với tốc độ tăng trưởng 25,3% vào năm 2025, lên 287,347 tỷ USD (tương đương khoảng 1,94 nghìn tỷ Nhân dân tệ theo tỷ giá hiện tại) với tốc độ tăng trưởng 29,3% vào năm 2026, và đạt 359,899 tỷ USD (tương đương khoảng 2,43 nghìn tỷ Nhân dân tệ theo tỷ giá hiện tại) với tốc độ tăng trưởng 25,2% vào năm 2027.