Broadcom ra mắt VMware AI Factory: Đơn giản hóa triển khai AI trên hạ tầng đám mây riêng

Theo tin từ IT ngày 31 tháng 8, Broadcom hôm nay đã công bố ra mắt VMWare AI Foundation. Sản phẩm mới này đóng vai trò là nền tảng định nghĩa bằng phần mềm cho VMWare AI Private Cloud, hỗ trợ triển khai cơ sở hạ tầng AI thông qua một loạt các tính năng đổi mới tự động hóa, từ đó cung cấp cho khách hàng lộ trình triển khai năng suất AI đơn giản hơn.

Theo giới thiệu, VMWare AI Foundation có thể triển khai trực tiếp các ứng dụng AI vào môi trường đám mây riêng của doanh nghiệp. VCF (chú thích của IT: VMware Cloud Foundation) của nền tảng này sở hữu khả năng tự động hóa cơ sở hạ tầng độc đáo, giúp rút ngắn thời gian từ khâu triển khai máy chủ đến khi mô hình AI bắt đầu hoạt động từ vài tuần xuống còn vài giờ.

VCF có khả năng tập hợp các tài nguyên GPU trên toàn bộ doanh nghiệp, cho phép các nhóm khác nhau chạy nhiều mô hình trên phần cứng dùng chung mà không cần phải cấu hình máy chủ riêng cho từng AI. Thư viện mô hình thống nhất cung cấp cho các nhóm khoa học dữ liệu một giao diện duy nhất để triển khai và quản lý các quy trình suy luận mô hình (model inference) và RAG giữa các máy ảo, container và tài nguyên GPU.

Nền tảng này cũng được tích hợp sẵn các tính năng quan sát để giám sát lưu lượng Token, độ trễ, cũng như mức sử dụng tính toán và bộ nhớ, giúp doanh nghiệp tối đa hóa hiệu suất sử dụng Token.

VMWare AI Foundation sẽ hỗ trợ các sản phẩm đạt chứng nhận VCF AI ReadyNodes từ các nhà cung cấp như Cisco, Dell, Lenovo, Supermicro, đồng thời hỗ trợ các kiến trúc phần mềm và bộ tăng tốc AI mà khách hàng ưa thích, tương thích với các mô hình AI lớn như Gemma 4, cotomi, Qwen 3.7-Max, GLM 5.2 và nhiều mô hình khác.