Huawei: Lưu lượng Token tăng gấp 6 lần, hạ tầng mạng mới là nút thắt lớn nhất của AI

Chiều ngày 24 tháng 7, Bộ phận Hệ thống Internet Chính phủ và Doanh nghiệp Huawei Trung Quốc đã tổ chức buổi họp báo truyền thông ngành Internet. Tại đây, Huawei đã trình bày hệ thống về các điểm nghẽn trong ngành công nghiệp năng lực tính toán AI, giải pháp kỹ thuật nền tảng tích hợp tính toán - lưu trữ - mạng, xây dựng hệ sinh thái mã nguồn mở Ascend, lộ trình triển khai năng lực tính toán phân tầng và bố cục hệ sinh thái công nghiệp dài hạn.

Hiện nay, các mô hình AI lớn (AI đại mô hình) đã chính thức bước từ giai đoạn xác thực kỹ thuật sang giai đoạn thương mại hóa quy mô lớn, trong đó AI Agent đã trở thành động lực tăng trưởng cốt lõi cho các doanh nghiệp Internet. Tuy nhiên, quá trình nâng cấp thông minh của ngành vẫn đang mắc kẹt trong nhiều khó khăn: sự hỗ trợ về năng lực tính toán nền tảng còn thiếu hụt, chi phí thích ứng giữa các kịch bản cao và ngưỡng phát triển kỹ thuật còn quá lớn, tất cả đang tiếp tục kìm hãm tốc độ chuyển đổi thông minh và hiệu quả triển khai của ngành.

Trong buổi trao đổi với các phương tiện truyền thông như Sina Tech, ông Hoàng Kiện (Huang Jian), Tổng giám đốc ngành Internet Chính phủ và Doanh nghiệp của Huawei Trung Quốc, thẳng thắn chia sẻ rằng so với nhịp độ lặp lại công nghiệp có tính thích ứng mạnh và diễn ra tuần tự của thời đại điện tử, sự bùng nổ về lượng tiêu thụ Token trong lĩnh vực AI hiện nay đã vượt xa tốc độ thích ứng của xã hội và ngành công nghiệp, gây ra tâm lý lo âu phổ biến về chuyển đổi AI ở khắp các ngành. "Dự kiến từ năm 2027 đến 2030, nền kinh tế Token sẽ ảnh hưởng toàn diện đến mọi hành vi tác nghiệp và khung làm việc. Việc tiêu hóa một sự thay đổi khổng lồ như vậy chỉ trong vòng ba năm ngắn ngủi đã mang lại áp lực và thách thức to lớn cho toàn ngành," ông Hoàng Kiện nhấn mạnh.

Ông dẫn số liệu từ các tổ chức cho biết: trong nửa năm qua, lượng tiêu thụ Token đã tăng gấp 6 lần, số lần gọi mô hình (model calls) tăng khoảng 50 đến 100 lần. Xu hướng tăng trưởng này chắc chắn sẽ thúc đẩy nhu cầu đối với các dịch vụ hỗ trợ thượng nguồn và hạ nguồn như dịch vụ tính toán, lưu trữ dữ liệu và dịch vụ mạng.

Theo quan điểm của ông Hoàng Kiện, "Trong ba yếu tố là năng lực tính toán (compute), năng lực lưu trữ (storage) và năng lực vận chuyển (network), thì năng lực vận chuyển hiện là điểm nghẽn nổi cộm nhất. Thay vì cố chấp vào tiến trình sản xuất đơn chip, chi bằng hãy 'xây dựng đường cao tốc rộng hơn' thông qua việc phối hợp tích hợp giữa mạng, tính toán và lưu trữ." Theo ông, "Huawei đã nâng băng thông NPO lên hơn tám lần và tăng hiệu suất tạo Token lên gấp năm lần." Ông cho biết thêm, yêu cầu về độ trễ truyền thông và kết nối cụm cho việc huấn luyện và suy luận của các mô hình lớn đang tăng vọt. Dựa trên mạng trung tâm dữ liệu AI Xinghe và siêu nút Ascend (Ascend Super Node), Huawei đã phối hợp bốn tầng gồm phần cứng, phần mềm, điều phối và hệ sinh thái để giảm đáng kể tổn thất truyền thông phân tán, đồng thời thông qua điều phối linh hoạt để thích ứng với các giai đoạn cao điểm, thấp điểm của doanh nghiệp và các kịch bản đa đồng thời.

Quay trở lại với ngành Internet, trước nhu cầu đặc thù về tính đồng thời cao và độ ổn định cao của ngành này, ông Hoàng Kiện đã giới thiệu hệ thống dịch vụ độc quyền ba tầng mà Huawei xây dựng, bao phủ toàn bộ vòng đời vận hành và bảo trì cho các doanh nghiệp với quy mô khác nhau. Đối với các tập đoàn Internet hàng đầu, Huawei xây dựng đội ngũ dịch vụ chuyên biệt, trang bị hơn một trăm kỹ sư nghiên cứu phát triển và kỹ sư hỗn hợp ngành để cung cấp dịch vụ quản gia tận tâm; đối với các doanh nghiệp Internet vừa và nhỏ, Huawei liên kết với các đối tác hệ sinh thái để cung cấp dịch vụ tiêu chuẩn hóa, bao gồm quy hoạch kiến trúc tính toán giai đoạn đầu, triển khai tối ưu hóa mạng, vận hành bảo trì từ xa và tại chỗ 7x24 giờ hàng ngày, đồng thời liên tục cung cấp các dịch vụ như thích ứng khung mã nguồn mở và hỗ trợ lặp lại phiên bản.

Được biết, đối với nhóm khách hàng có yêu cầu cao như các nhà cung cấp Internet và Cloud, Huawei không chỉ cung cấp các sản phẩm như công nghệ siêu nút Ascend, Lingqu, độ tin cậy cao, mà còn đầu tư hàng nghìn nhân sự vào việc thích ứng với các phần mềm mã nguồn mở phổ biến, thực hiện đổi mới liên kết để hỗ trợ tốt cho mô hình, từ đó hỗ trợ tốt cho việc sử dụng trong kinh doanh. Đồng thời, Huawei phối hợp với các cộng đồng mã nguồn mở chính thống trong ngành, tham gia đóng góp, quản trị và lập kế hoạch lộ trình cho cộng đồng, đưa các tính năng chất lượng cao lên cộng đồng nhằm cung cấp cho các nhà phát triển nền tảng tính toán hiệu quả, chất lượng cao và các công cụ phát triển dễ sử dụng, giảm đáng kể ngưỡng huấn luyện, suy luận và di chuyển mô hình lớn. Thông qua những nỗ lực này, Huawei tự tin có thể hỗ trợ sự phát triển của các nhà sản xuất Internet hoặc các nhà sản xuất mô hình lớn.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.