Đội ngũ từ Đại học Thanh Hoa ra mắt 'nhà máy' tối ưu hóa Token nội địa: Tương thích hơn 10 loại chip trong nước, xử lý 100 tỷ Token mỗi ngày

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

2026-07-18 11:31:48 Nguồn: QbitAI

Biến mỗi đơn vị năng lực tính toán thành Token hiệu quả

Yun Zhong, đưa tin từ Aofeisi

QbitAI | Kênh chính thức QbitAI

Các quy tắc cạnh tranh trong cơ sở hạ tầng AI đang được viết lại.

Nửa đầu cuộc chơi là so xem ai có nhiều chip hơn, nửa sau là so xem ai có thể sử dụng chip hiệu quả hơn.

Ngày 17 tháng 7, WAIC 2026 khai mạc tại Thượng Hải, hơn 200 doanh nghiệp trong lĩnh vực tính toán thông minh cùng hội tụ, hàng loạt sản phẩm mới được ra mắt.

Thế nhưng, giữa làn sóng "khoe chip, phô diễn thông số", buổi họp báo của SiShi Technology lại có phần khác biệt:

Nhà sáng lập kiêm Chủ tịch SiShi Technology, Yan Bowen, đứng trên sân khấu không nói về chip, không nói về mô hình, mà chỉ nói về một từ: Hiệu suất.

△ Hình ảnh tại buổi ra mắt sản phẩm mới của Yan Bowen, nhà sáng lập kiêm Chủ tịch SiShi Technology tại WAIC 2026.

Bởi vì năng lực tính toán của Trung Quốc đang bị lãng phí rất nhiều — hơn 50 trung tâm tính toán thông minh, với quy mô năng lực tính toán thông minh vượt quá 1000 EFLOPS, nhưng hiệu suất sử dụng trung bình lại còn lâu mới đạt mức tối đa.

Tính toán chậm, phản hồi ngữ cảnh dài bị suy giảm là những hiện tượng phổ biến.

Giải pháp mà SiShi đưa ra có tên là Vectron, một nhà máy tối ưu hóa Token nội địa.

Hiệu suất mới là từ khóa của cơ sở hạ tầng AI trong tương lai

Trung Quốc đã xây dựng hơn 50 trung tâm tính toán thông minh, tổng quy mô năng lực tính toán thông minh đã vượt quá 1000 EFLOPS.

Tuy nhiên, hiệu suất sử dụng trung bình vẫn còn dư địa rất lớn để cải thiện.

"Năng lực tính toán đang bị lãng phí rất nhiều, tính toán chậm, phản hồi đa phương thức với ngữ cảnh dài bị suy giảm là những hiện tượng phổ biến," Yan Bowen cho biết.

Dựa trên kinh nghiệm tích lũy từ các dự án trung tâm tính toán cấp quốc gia, SiShi Technology liên tục đầu tư vào nghiên cứu phát triển cụm quy mô lớn, xây dựng các cụm lớn nội địa với quy mô hàng vạn chip, vận hành ổn định liên tục, tối ưu hóa hiệu suất suy luận, tạo dựng rào cản kỹ thuật vững chắc, tiên phong thông suốt toàn bộ chuỗi liên kết siêu trí tuệ từ chip tầng dưới đến ứng dụng tầng trên, thực sự biến các cụm lớn nội địa từ trạng thái "được kích hoạt" sang "chạy hết công suất", biến năng lực tính toán nội địa khổng lồ thành năng suất sản xuất Token ổn định, hữu dụng cho ngành công nghiệp.

"Vì vậy, chúng tôi đang suy nghĩ lại, trong khi đẩy nhanh tốc độ xây dựng cơ sở hạ tầng tính toán, làm thế nào để giải phóng thêm giá trị của năng lực tính toán?" Yan Bowen cho rằng, trong giai đoạn "Kế hoạch 5 năm lần thứ 15", tổng đầu tư vào ngành công nghiệp tính toán của Trung Quốc dự kiến đạt 7 nghìn tỷ nhân dân tệ.

Nếu hiệu suất sử dụng năng lực tính toán có thể tăng từ 10 đến 20 điểm phần trăm, nó sẽ giải phóng không gian giá trị năng lực tính toán lên tới hàng nghìn tỷ, giúp các ngành nghề bước vào thế giới AI với chi phí thấp hơn, từ đó kích thích thêm nhiều nhu cầu ứng dụng.

Thông điệp ẩn sau điều này là sự chuyển dịch trong nhận thức chung của ngành: Cạnh tranh về cơ sở hạ tầng AI đang chuyển từ "cuộc đua quy mô tính toán" sang "cuộc đua hiệu suất tính toán".

Chìa khóa của cơ sở hạ tầng AI trong tương lai không chỉ nằm ở số lượng chip, mà còn nằm ở khả năng tích hợp chip, kết nối, bộ nhớ, tản nhiệt, điều phối và ngăn xếp phần mềm thành một hệ thống quy mô lớn ổn định và khả dụng.

Và Vectron chính là câu trả lời mang tính hệ thống mà SiShi Technology đưa ra cho "cuộc đua hiệu suất" này.

Biến mỗi đơn vị năng lực tính toán thành Token ổn định, hiệu quả và có giá trị

Hiện nay, các bài toán khó về hiệu suất mà cơ sở hạ tầng AI đang đối mặt bao gồm: khó điều phối thống nhất năng lực tính toán không đồng nhất, thiếu tối ưu hóa chuyên sâu cho suy luận mô hình lớn, ngữ cảnh dài dẫn đến áp lực bộ nhớ đồ họa (VRAM) và chi phí tăng vọt, chi phí thích ứng hệ sinh thái chip nội địa cao, v.v.

Nhằm giải quyết những điểm nghẽn này, Vectron không nên chỉ là một mô hình, cũng không chỉ là một công cụ. Điều mà SiShi Technology mong muốn xây dựng là một hệ thống tối ưu hóa AI Infra hoàn chỉnh.

Cụ thể là —

Về tối ưu hóa thích ứng tác vụ: Dựa trên việc khớp hồ sơ yêu cầu với chuỗi tính toán tối ưu, năng lực tính toán được phân bổ theo nhu cầu, giảm thiểu lãng phí tài nguyên.

Các tác vụ suy luận khác nhau sẽ tự động khớp với tài nguyên tính toán phù hợp nhất, thay vì áp dụng cách tiếp cận "cào bằng".

Yan Bowen giới thiệu, Vectron tương thích toàn diện với hơn 10 loại chip tính toán nội địa như Ascend, Kunlunxin, Iluvatar CoreX, TaiChu, Bigtera, Moore Threads, Muxin, Enflame, v.v., thích ứng với hơn 20 mô hình phổ biến, hiện thực hóa việc điều phối thống nhất và tăng tốc suy luận cho các cụm tính toán không đồng nhất nội địa, với lưu lượng Token hàng ngày đạt mức hàng trăm tỷ.

Đối với khách hàng doanh nghiệp, điều này có nghĩa là bất kể bạn đang chạy loại chip nội địa nào ở tầng dưới, Vectron đều có thể giúp quản lý thống nhất và điều phối tối ưu hóa tài nguyên tính toán của bạn, cuối cùng tạo ra nhiều Token khả dụng hơn.

Sử dụng đột phá công nghệ cốt lõi để "vắt kiệt" năng lực tính toán

Tại buổi họp báo, Yan Bowen tập trung giới thiệu nhiều đột phá công nghệ cốt lõi của Vectron, mỗi đột phá đều nhắm vào những điểm nghẽn thực tế trong quá trình doanh nghiệp sử dụng mô hình lớn.

Nén KV Cache: Giúp văn bản dài không còn "đốt tiền"

Khi sử dụng mô hình lớn, các doanh nghiệp phải đối mặt với một vấn đề thực tế là mô hình ngày càng mạnh mẽ thì chi phí vận hành cũng ngày càng cao.

Đặc biệt là khi ngữ cảnh trở nên dài hơn, áp lực lên bộ nhớ đồ họa tăng vọt.

Các phương pháp truyền thống chủ yếu dựa vào việc đánh giá giá trị thông tin ở giai đoạn đầu vào, nhưng trong thực tế kinh doanh, những gì mô hình cần chú ý thường thay đổi một cách linh hoạt.