Hậu Ma (Houmo) trình làng chip M50 tại WAIC 2026, thúc đẩy sức mạnh tính toán AI trên thiết bị

2026-07-18 15:20:19 Nguồn: QbitAI

Lời dẫn:

Một chiếc Agent Computer chỉ nhỏ bằng lòng bàn tay có thể vận hành các mô hình ngôn ngữ lớn (LLM) hàng trăm tỷ tham số, trở thành "trợ lý AI để bàn" cục bộ hoạt động 24/7, có khả năng tự động tạo PPT chỉ bằng một câu lệnh; thiết bị đầu cuối cá nhân tương tác toàn ảnh (holographic) có thể kết xuất hình ảnh theo thời gian thực, điều khiển một nhân vật kỹ thuật số có khả năng đối thoại liên tục... Ngày 18 tháng 7, tại WAIC 2026 diễn ra ở Trung tâm Hội nghị Khoa học Trương Giang, (phóng viên quan sát thấy) Houmo AI đã đồng loạt ra mắt nhiều thiết bị đầu cuối AI sáng tạo "M50 Inside", đưa các mô hình lớn từ đám mây thực sự tiến gần đến thiết bị cục bộ, giúp trí tuệ tại biên (edge intelligence) trở nên dễ dàng tiếp cận.

Suy luận mô hình lớn tiến về thiết bị đầu cuối, chip hiệu năng cao, tiêu thụ điện năng thấp và dễ triển khai trở thành nhu cầu cấp thiết

Cùng với việc các mô hình lớn chuyển dịch toàn diện từ đám mây sang thiết bị đầu cuối, AI tại biên đang chứng kiến sự tăng trưởng bùng nổ. Các loại thiết bị đầu cuối dần sở hữu năng lực toàn trình bao gồm: ghi nhớ tự chủ, truy xuất thông minh, suy luận logic và tự thực thi tác vụ. Ngành công nghiệp nhìn chung định nghĩa năm 2026 là năm đầu tiên của AI tại biên, khi các sản phẩm như AI PC, robot dịch vụ thông minh và thiết bị đầu cuối thông minh tại biên đang được đẩy nhanh ứng dụng vào các kịch bản thương mại.

Hiện nay, quy mô tham số của các mô hình lớn liên tục mở rộng, nhưng kích thước, mức tiêu thụ điện năng của pin và không gian tản nhiệt của thiết bị đầu cuối đều có những giới hạn cứng. Các ràng buộc về sức mạnh tính toán, điện năng, độ trễ và khả năng triển khai đã trở thành nút thắt cốt lõi trong việc ứng dụng mô hình lớn quy mô lớn tại biên, đồng thời biến các dòng chip AI tại biên có hiệu năng cao, tiêu thụ điện năng thấp và dễ triển khai trở thành nhu cầu thiết yếu của ngành.

Nhằm giải quyết các điểm nghẽn của ngành, chip M50 của Houmo AI dựa trên kiến trúc tính toán trong bộ nhớ (compute-in-memory), đạt sức mạnh tính toán 160 TOPS trên một chip với mức tiêu thụ điện năng 10W, có thể vận hành mượt mà các mô hình lớn từ 30B đến 120B tham số. M50 phá vỡ hoàn toàn rào cản về sức mạnh tính toán của thiết bị đầu cuối, đáp ứng đầy đủ các nhu cầu AI phức tạp như ghi nhớ, truy xuất thông minh và suy luận logic trong điều kiện dung lượng pin và tản nhiệt hạn chế. Ngay cả trong các kịch bản tải cao với suy luận đa luồng, chip vẫn đảm bảo vận hành ổn định với độ trễ thấp.

Để đẩy nhanh việc ứng dụng quy mô lớn sức mạnh tính toán AI tại biên cho mô hình lớn và giảm ngưỡng thích ứng cho ngành, Houmo AI đồng thời ra mắt các phần cứng dạng tiêu chuẩn đa dạng như thẻ M.2 và thẻ tăng tốc AI. Về phần mềm, Houmo đã tự nghiên cứu và phát triển ngăn xếp phần mềm Dadao, có khả năng tương thích với các khung học sâu (deep learning framework) phổ biến và tích hợp sẵn các toán tử tối ưu hóa. Khách hàng có thể hoàn tất việc triển khai mô hình lớn mà không cần điều chỉnh tham số thủ công hay hiệu chuẩn lượng tử hóa, giúp rút ngắn đáng kể chu kỳ phát triển và thích ứng sản phẩm.

Tăng tốc AI tại biên cho mô hình lớn, M50 Inside thúc đẩy đổi mới thương mại đa thiết bị

Tại triển lãm WAIC lần này, Houmo AI đã tập trung trình diễn các thành quả ứng dụng của chip M50 trong các kịch bản như Agent Computer, thiết bị di động thông minh, robot hình thể (embodied robot) và suy luận tại biên, bao phủ các lĩnh vực nóng như văn phòng thông minh, giáo dục thông minh, đồng hành cá nhân và điện toán biên.

Hiện nay, cơn sốt "nuôi tôm hùm" (Agent) trong giới công nghệ vẫn đang nóng lên, và Agent Computer đã trở thành tâm điểm thu hút tại khu vực triển lãm. Houmo AI phối hợp với Liaoqu AI ra mắt trung tâm tính toán thông minh cá nhân tương tác toàn ảnh ClawHouse X1 Pro, được trang bị chip tính toán trong bộ nhớ M50, có thể đồng thời gánh vác nhiều tác vụ tải cao như kết xuất hình ảnh thời gian thực, suy luận mô hình lớn hàng chục tỷ tham số tại cục bộ và tương tác giọng nói độ trễ thấp. Dù là văn phòng thông minh, giáo dục thông minh hay kịch bản tính toán cá nhân, thiết bị đều đảm bảo an toàn dữ liệu, tương tác mượt mà, sức mạnh tính toán dồi dào, giúp tiết kiệm khoảng 80% các thao tác rườm rà.

Là một sản phẩm tiêu chuẩn khác của Agent Computer, máy chủ AI Lenovo P7 được trang bị chip M50, kết hợp giữa sức mạnh tính toán hiệu năng cao và khả năng triển khai hoàn toàn tại cục bộ trong một thân máy nhỏ bằng lòng bàn tay, với tổng sức mạnh tính toán đạt 190 TOPS. Thiết bị này có thể vận hành mượt mà các mô hình lớn lên tới 122 tỷ tham số khi ngoại tuyến. Trong môi trường không có mạng, tốc độ suy luận cục bộ đạt 50 Tokens/s, hỗ trợ các kịch bản tương tác tần suất cao như đối thoại nhiều vòng, hỏi đáp kiến thức chuyên môn, xử lý tài liệu hàng loạt, mang lại cho người dùng trải nghiệm AI cục bộ mượt mà và tự nhiên.

Trong kịch bản thiết bị di động thông minh, khi lượng xuất xưởng AI PC toàn cầu vượt ngưỡng 100 triệu chiếc, khả năng đảm bảo an toàn dữ liệu và làm việc ngoại tuyến do tính toán cục bộ mang lại đang trở thành một trong những ưu thế giúp AI PC khác biệt so với giải pháp "AI đám mây + PC truyền thống". Tại triển lãm, Great Wall N90 Pro đã trình diễn kết quả vận hành ngoại tuyến mô hình lớn 35B tại cục bộ: nhờ nền tảng sức mạnh tính toán cao của chip M50, người dùng dù ở môi trường không có mạng vẫn có thể sử dụng đầy đủ năng lực AI, bao gồm viết tài liệu thông minh, hỏi đáp ngoại tuyến, ghi chép cuộc họp, ghi chú ý tưởng và các chức năng văn phòng toàn diện khác. Dựa trên phần cứng và phần mềm tự chủ nội địa toàn ngăn xếp cùng mô hình lớn cục bộ, thiết bị không chỉ nâng cao mức độ an toàn dữ liệu và bảo vệ quyền riêng tư mà còn cung cấp giải pháp văn phòng AI phù hợp hơn cho việc triển khai cục bộ trong các ngành như chính phủ, tài chính và năng lượng.

Tại triển lãm, máy concept AI Workmate của Lenovo được trang bị chip M50 xuất hiện dưới dạng robot để bàn, có thể xử lý điều khiển bằng giọng nói và thao tác cử chỉ tại cục bộ. Sau khi quét ghi chú hoặc tài liệu, thiết bị có thể tạo tóm tắt, hệ thống hóa tư duy hoặc chuyển đổi thành bản trình bày, đồng thời tạo bảng chia sẻ thông qua máy chiếu, có thể sử dụng ngay cả khi mất kết nối mạng.

Hướng tới suy luận tại biên, Kodbox TeamSilo A10 tích hợp thẻ M.2 LQ50 của Houmo AI, cung cấp sức mạnh tính toán 160 TOPS, hỗ trợ vận hành mô hình lớn 35B ngoại tuyến tại cục bộ. Sản phẩm tích hợp ổ đĩa đám mây doanh nghiệp, kho tri thức và năng lực mô hình lớn cục bộ vào một thiết bị duy nhất, tập trung vào việc truy xuất tri thức, hỏi đáp ngoại tuyến và xây dựng ứng dụng Agent dựa trên tệp tin doanh nghiệp.

Hiện tại, Houmo AI đã đạt được sự tích hợp sâu sắc giữa sức mạnh tính toán AI tại biên cho mô hình lớn với nhiều phần cứng AI sáng tạo, đồng thời thiết lập quan hệ hợp tác sâu rộng với hàng chục doanh nghiệp đầu ngành như Lenovo, Great Wall, China Mobile, thúc đẩy việc thương mại hóa quy mô lớn chip M50 trong các thiết bị đầu cuối đa dạng như AI PC, robot để bàn, AI NAS, Agent Computer, liên tục mở rộng biên giới ứng dụng thương mại của AI tại biên.

"Các loại thiết bị đầu cuối thông minh đi vào hàng nghìn hộ gia đình, mang lại lợi ích thiết thực cho đời sống nhân dân, 'Sản xuất thông minh Trung Quốc' đã trở thành một danh thiếp rực rỡ khác của hiện đại hóa kiểu Trung Quốc." Đứng trước làn sóng thay đổi của ngành công nghiệp AI tại biên cho mô hình lớn, Houmo AI luôn giữ vững tâm niệm ban đầu: sử dụng đổi mới cốt lõi để đẩy nhanh việc ứng dụng mô hình lớn trên mọi thiết bị đầu cuối, giúp sức mạnh tính toán AI có thể tiếp cận mọi nơi như điện năng, dùng một con chip để thúc đẩy sự tiến hóa toàn diện của AI đầu cuối và đổi mới công nghiệp.

Nguồn đăng lại: Houmo AI

Bài viết này được QbitAI cấp phép đăng lại, quan điểm chỉ thuộc về tác giả gốc.