Meta ra mắt MetaRoCE: Giao thức RDMA đột phá tối ưu cho hạ tầng mạng AI quy mô lớn

Việc huấn luyện và vận hành các mô hình tiên tiến (frontier models) hiện nay không chỉ là vấn đề về tính toán mà còn là vấn đề về mạng lưới. Các hoạt động tập thể (collective operations) như all-reduce và all-to-all đồng bộ hóa hàng nghìn bộ tăng tốc (accelerators) trong quá trình huấn luyện, và tốc độ truyền tải chậm nhất sẽ quyết định nhịp độ của toàn bộ công việc. Ngay cả những trở ngại nhỏ về mạng cũng trực tiếp làm lãng phí đáng kể năng lực tính toán.

Tuần này, Meta đã giới thiệu MetaRoCE. Đây được mô tả là một giao thức truyền tải RDMA hoàn toàn mới, được xây dựng chuyên biệt cho các khối lượng công việc AI trên nền tảng Ethernet phổ thông. Thiết kế này phá vỡ giả định cốt lõi của RoCE tiêu chuẩn. RoCE tiêu chuẩn kỳ vọng mạng lưới phải truyền tải mọi khung dữ liệu (frame) theo đúng thứ tự, tận dụng PFC và hạn chế việc phân tán gói tin (packet spraying) vốn mang lại hiệu suất cao trong các mạng lưới đa tầng và quy mô lớn. Ngược lại, MetaRoCE coi cấu trúc mạng là môi trường có thể mất gói tin và đẩy việc sắp xếp thứ tự, chọn đường truyền và khôi phục dữ liệu về phía NIC. Meta đang phát hành đặc tả kỹ thuật, bản triển khai phần mềm tham chiếu và bộ kiểm thử tuân thủ thông qua Open Compute Project (OCP).

Liệu nó có thể triển khai được không?

Chưa phải lúc này, các sản phẩm có thể sẽ ra mắt vào tháng 10 năm 2026. Meta có thể sẽ công bố đặc tả kỹ thuật MetaRoCE, bản triển khai tham chiếu phần mềm tối ưu hóa DPDK và khung tuân thủ sản xuất tại sự kiện OCP Global Summit 2026. Hỗ trợ phần cứng hiện vẫn còn ở giai đoạn đầu: Meta đã chứng minh tính hiệu quả trên các NIC lập trình được AMD Pensando, với các bản triển khai bổ sung đang được thực hiện bởi các nhà cung cấp khác. Hiện tại, đây là quyết định về kiến trúc hạ tầng mạng, không phải quyết định mua sắm thiết bị.

Vấn đề là: cấu trúc mạng chỉ nhìn thấy các gói tin, còn NIC nhìn thấy mục đích truyền tải.

Meta đã mở rộng quy mô các cụm máy chủ lên tới hàng trăm nghìn GPU trên nhiều trung tâm dữ liệu và khu vực. Ở quy mô đó, mạng lưới nằm trong lộ trình quan trọng của mọi bước huấn luyện. Các hoạt động tập thể như all-reduce và all-to-all đồng bộ hóa hàng nghìn bộ tăng tốc, và tốc độ truyền tải chậm nhất sẽ quyết định nhịp độ của toàn bộ công việc.

RoCE tiêu chuẩn chính là rào cản. Nó kỳ vọng mạng lưới phải truyền tải mọi khung dữ liệu theo đúng thứ tự, dựa vào PFC và hạn chế việc phân tán gói tin vốn mang lại hiệu suất trong các mạng lưới đa tầng và quy mô lớn. MetaRoCE đảo ngược điều đó: trí thông minh được chuyển đến các điểm cuối (endpoint), và mạng lưới phân tách thành nhiều đường truyền logic chi tiết, mỗi đường truyền đều có hệ thống đo từ xa (telemetry) theo thời gian thực — bao gồm RTT trên mỗi đường truyền, trạng thái ECN và mức độ sử dụng.

Điều này được xây dựng trực tiếp dựa trên công trình nghiên cứu về RoCE quy mô lớn của Meta vào năm 2024 và quá trình phát triển hạ tầng rộng lớn hơn của họ.

Sáu quyết định thiết kế quan trọng

Các con số

Meta đã triển khai MetaRoCE trên các NIC lập trình được AMD Pensando. Trên một cụm GPU AMD gồm 64 nút chạy các tập lệnh RCCL, nó đã được so sánh trực tiếp với RoCEv2 thông qua các tác vụ all-reduce và all-to-all, mang lại thông lượng cao hơn và thời gian hoàn thành luồng dữ liệu thấp hơn.

Kết quả về khả năng phục hồi là tuyên bố cốt lõi: MetaRoCE duy trì khoảng 86% thông lượng ngay cả khi mất 1% gói tin và vẫn tiếp tục cung cấp băng thông hữu ích ngay cả ở tỷ lệ mất gói 10%, hội tụ một cách ổn định thay vì bị sụp đổ. Việc xác thực đa tầng trên các cấu trúc liên kết 4-plane và 8-plane với tối đa 4.000 kết nối đồng thời đã xác nhận rằng thông lượng tăng tuyến tính theo số lượng plane, và các mô phỏng lỗi plane cho thấy lưu lượng tự động phân phối lại mà không cần sự can thiệp của ứng dụng hay người vận hành.

Thiết kế mở

MetaRoCE mở rộng triết lý đa nhà cung cấp mà sáng kiến Ethernet Scalable Unified Network (ESUN) của OCP đã thiết lập cho hạ tầng mạng vào lớp truyền tải. Ba sản phẩm được phát hành: đặc tả kỹ thuật đầy đủ thông qua OCP, bộ kiểm thử tuân thủ cho phép các nhà cung cấp chứng minh các bản triển khai của họ tương thích, và libsoftmetaroce đóng vai trò là mô hình hành vi chuẩn cho việc phát triển silicon. Meta đã chứng minh tính hiệu quả trên phần cứng AMD Pensando, với các bản triển khai bổ sung đang được thực hiện bởi các nhà cung cấp khác.

Nội dung giải thích đính kèm

Những điểm chính cần lưu ý

Xem CHI TIẾT KỸ THUẬT tại đây.

Ngoài ra, hãy thoải mái theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit 150k+ ML của chúng tôi cũng như đăng ký nhận Bản tin. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Asif Razzaq là CEO của Marktechpost Media Inc.. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt nền tảng truyền thông về Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về học máy và học sâu, đảm bảo tính kỹ thuật chính xác nhưng vẫn dễ hiểu đối với đông đảo độc giả. Nền tảng này tự hào với hơn 2 triệu lượt xem mỗi tháng, minh chứng cho sự phổ biến của nó đối với công chúng.