AK@_akhaliq
85

Mô hình

Ra mắt Motif-3-Beta: Mô hình MoE thưa với 314 tỷ tham số

(giờ Việt Nam)

Tóm tắt AI

Motif-3-Beta vừa xuất hiện trên Hugging Face với 314 tỷ tham số, hỗ trợ cửa sổ ngữ cảnh lên tới 256K token. Mô hình sử dụng kiến trúc MoE thưa với 384 chuyên gia, kích hoạt 8 chuyên gia mỗi token, tối ưu cho đa ngôn ngữ và các tác vụ tổng quát.

LLMMoEMotif-3-BetaHuggingFaceAI
Xem nguyên văn trên X

Bài viết được AI dịch và tổng hợp tự động từ X: AK (@_akhaliq). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.