FPT nâng cấp hạ tầng AI với công nghệ Nvidia HGX B300 mới nhất

Nội dung dịch chi tiết

FPT chính thức đưa nền tảng Nvidia HGX B300 vào FPT AI Factory. Đây là dòng sản phẩm thuộc thế hệ Blackwell Ultra mới nhất của Nvidia, được thiết kế chuyên biệt cho các tác vụ AI tạo sinh và xử lý dữ liệu quy mô lớn.

Mỗi hệ thống HGX B300 bao gồm 8 GPU với tổng dung lượng bộ nhớ lên tới 2,1 TB mỗi node. Cấu hình này cho phép triển khai các mô hình AI phức tạp, ứng dụng đa phương thức và giải quyết các bài toán yêu cầu xử lý lượng dữ liệu ngữ cảnh khổng lồ.

Theo Nvidia, nền tảng mới mang lại hiệu năng cao hơn khoảng 1,5 lần so với thế hệ Blackwell tiền nhiệm. Việc nâng cấp này giúp các doanh nghiệp rút ngắn thời gian huấn luyện mô hình, tăng khả năng phục vụ người dùng đồng thời và tối ưu hóa chi phí vận hành hệ thống AI trong giai đoạn ứng dụng thực tế.

Đại diện FPT cho biết, công nghệ mới giúp cải thiện tới 2,95 lần hiệu quả chi phí trên mỗi token. Cụ thể, nền tảng này có thể giảm 66% chi phí vận hành các tác vụ AI thời gian thực và giảm 49% chi phí huấn luyện mô hình so với thế hệ trước.

Bên cạnh hiệu năng, hạ tầng mới được xây dựng theo các tiêu chuẩn khắt khe dành cho doanh nghiệp, đảm bảo tính ổn định, bảo mật và hỗ trợ kỹ thuật chuyên sâu. FPT là một trong những đơn vị đầu tiên tại Việt Nam triển khai nền tảng này.

Trước đó, FPT AI Factory đã vận hành các dịch vụ GPU Cloud dựa trên nền tảng Nvidia HGX H100 và H200, phục vụ hơn 18.000 nhà phát triển trên toàn cầu. Việc bổ sung thế hệ GPU mới được kỳ vọng sẽ giúp các doanh nghiệp trong nước tiếp cận nguồn lực tính toán hiện đại, đẩy nhanh quá trình đưa ứng dụng AI vào thực tiễn.