AI Notes@AYi_AInotes
88

Mô hình

Tencent âm thầm ra mắt Hunyuan Hy3: Mô hình MoE 21B tham số tối ưu cho hơn 1 tỷ người dùng WeChat

(giờ Việt Nam)

Tóm tắt AI

Tencent giới thiệu Hunyuan Hy3, mô hình MoE với 21B tham số kích hoạt, đạt hiệu suất ngang ngửa các flagship nhưng tối ưu chi phí vận hành. Hy3 tập trung vào khả năng làm Agent, giúp tăng tỷ lệ thành công của tác vụ nội bộ lên 90% và sẵn sàng phục vụ quy mô lớn trên WeChat.

Bản dịch AI

Trong khi mọi người đang mải mê bàn tán về Fable 5 và GPT-5.6, thì ít ai để ý rằng Tencent đã âm thầm bắt kịp năng lực của các mô hình ngôn ngữ lớn (LLM).

Các bạn có biết Tencent khiêm tốn đến mức nào không? Hy3 vừa ra mắt cách đây vài ngày với 21B tham số kích hoạt đã có thể đạt trình độ ngang ngửa các mô hình flagship, và quan trọng hơn là nó được tích hợp trực tiếp vào tay hơn 1 tỷ người dùng WeChat. Đây mới thực sự là "quân bài tẩy" của mô hình nội địa Trung Quốc đấy các ông ạ!

Thú thật là hôm thứ Hai khi thấy tin Hy3 ra mắt, phản ứng đầu tiên của tôi cũng giống nhiều người: Lại thêm một mô hình nội địa chạy đua thông số à? Nhưng tranh thủ cuối tuần rảnh rỗi, tôi đã tìm hiểu kỹ tài liệu và nhận ra hoàn toàn không phải như vậy.

Hóa ra @TencentHunyuan ngay từ đầu đã không hướng tới việc trở thành một mô hình chatbot, mà định vị của nó là một LLM hướng tới tác vụ (Agent-oriented LLM).

Điều phản trực giác nhất chính là hiệu suất suy luận của nó: Với kiến trúc MoE có tổng 295B tham số nhưng thực tế chỉ kích hoạt 21B, nó đã có thể ngang hàng với các mô hình flagship có số lượng tham số lớn gấp 2 đến 5 lần.

Ngẫm lại thì chuyện này cũng giống như quản lý đội ngũ vậy, không phải cứ đông người là năng suất cao, mấu chốt nằm ở việc những người thực sự làm việc có đáng tin cậy hay không.

Tại sao hiệu suất này lại quan trọng? Hãy nghĩ đến việc WeChat phục vụ 1 tỷ người mỗi ngày, chỉ cần chi phí token tăng thêm một chút thôi cũng đã là con số thiên văn. Việc kích hoạt 21B mà vẫn đạt trình độ flagship chính là lý do cốt lõi giúp nó có thể triển khai quy mô lớn, chẳng liên quan gì đến việc chạy đua bảng xếp hạng cả.

Nhắc đến bảng xếp hạng, sau khi nghiên cứu kỹ tôi thấy phiên bản này thực sự không phải vậy. Từ bản preview đến bản chính thức, Hy3 là kết quả của quá trình lặp đi lặp lại dựa trên phản hồi từ hơn 50 nghiệp vụ thực tế của đội ngũ Hunyuan. Tỷ lệ thành công của tác vụ WorkBuddy nội bộ đã tăng từ 72% lên 90%, thời gian xử lý giảm 34%, đồng thời các lỗi ảo giác và kiến thức thông thường cũng giảm đáng kể.

Tôi từng nghĩ cốt lõi của Agent là suy nghĩ sâu đến đâu, nhưng sau đó nhận ra thứ quyết định liệu nó có thể đưa vào sản xuất hay không chính là sự ổn định. Ví dụ như việc điều phối công cụ có bị sập giữa chừng không, nếu lỗi thì có tự phục hồi được không, thay đổi khung làm việc có bị ảnh hưởng nhiều không... Chính những thứ tưởng chừng nhỏ nhặt này mới là chìa khóa để hoàn thành toàn bộ workflow mà không bị đứt gánh giữa đường.

Tất nhiên qua kiểm thử thực tế, Hy3 vẫn có điểm yếu, ví dụ như khả năng thị giác thuần túy chưa đủ mạnh. Tuy nhiên Tencent cũng có các dòng mô hình đa phương thức riêng, thế mạnh chính của Hy3 vẫn là coding, văn phòng và lập kế hoạch tác vụ phức tạp.

Cuối cùng, tôi xin đưa ra một nhận định: Cuộc đua LLM sắp tới có lẽ không còn nằm ở việc ai có thông số lớn hơn, mà cốt lõi là ai có thể đưa năng lực làm việc đến tay nhiều người hơn với ma sát thấp nhất. Ví dụ với Hy3, tôi hiểu nó có lẽ không phải là một mô hình biết tán gẫu giỏi hơn, mà giống như một nền tảng Agent biết làm việc hơn.

Nói đi cũng phải nói lại, nước đi này của Tencent thực sự rất quyết liệt. Tôi cảm thấy điểm bùng phát của mô hình nội địa Trung Quốc thực sự đã đến. Video bên dưới là một vài trường hợp kiểm thử tôi chạy bằng Hy3: yêu cầu nó tạo một trang web HTML giới thiệu bản thân, một trang web agent hệ thống nhận thức của tôi và một bản PPT 10 trang, tất cả đều rất ấn tượng. Mọi người có thể tự cảm nhận, biết làm việc, biết tự kiểm tra, thậm chí chủ động nói rõ mình chưa làm tốt ở đâu. Tôi nghĩ đây mới là dáng vẻ mà một mô hình thực dụng trong kỷ nguyên Agent nên có haha~ #Hy3 #Hunyuan #TencentAI

“AYi: Rất khuyến khích mọi người xem podcast đối thoại chuyên sâu với Jason - người phụ trách sản phẩm WorkBuddy. Ngoài ra, về WorkBuddy của Tencent, tôi có một nhận định hơi cực đoan: Bạn đọc 100 bài hướng dẫn do AI viết cũng không bằng dành 1 tiếng xem kỹ tập podcast do chính Tencent sản xuất này, quá đỗi chuyên sâu và đầy ắp kiến thức thực chiến! Jason đã chia sẻ một nhận định then chốt khiến tôi đặc biệt ấn tượng: Năm 2021 anh ấy từng có kế hoạch cho con học lập trình, đến năm 2026...”

TencentHunyuanMoELLMWeChat
Xem nguyên văn trên X

Bài viết được AI dịch và tổng hợp tự động từ X: AI Notes (@AYi_AInotes). Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.