WeChat công bố mã nguồn mở mô hình đa phương thức WeMM-Embedding với 3 phiên bản 2B/4B/9B

Theo tin từ IT ngày 4 tháng 9, bộ phận AI của WeChat hôm nay thông báo chính thức mã nguồn mở mô hình nhúng đa phương thức tổng quát WeMM-Embedding, vốn đang được WeChat sử dụng với tần suất một tỷ lượt gọi mỗi ngày. Mô hình bao gồm ba phiên bản 2B, 4B và 9B, hỗ trợ đầu vào đa phương thức bao gồm văn bản, hình ảnh, video, tài liệu thị giác và bất kỳ sự kết hợp đan xen nào giữa các loại hình này.

Phía WeChat cho biết, WeMM-Embedding lựa chọn kiến trúc đa phương thức Qwen3.5 làm khung xương thống nhất, cho phép hình ảnh, video và văn bản được xử lý cùng nhau trong cùng một mô hình ngay từ đầu.

Trên bảng xếp hạng nhúng đa phương thức uy tín MMEB-v2, WeMM-Embedding-9B đã vươn lên vị trí dẫn đầu với 80,6 điểm. Phiên bản 2B đạt 77,9 điểm, vượt qua các mô hình mã nguồn mở 8B vốn dẫn đầu trước đó.

WeMM-Embedding đã được triển khai quy mô lớn trong các hệ thống đề xuất và tìm kiếm của WeChat, bao gồm Video Accounts, livestream, Official Accounts, thương mại điện tử và Moments, với lưu lượng gọi đạt mức một tỷ lượt mỗi ngày. Các biểu diễn đa phương thức do mô hình tạo ra được ứng dụng trong các khâu như truy xuất ứng viên, xây dựng đặc trưng xếp hạng, mô hình hóa chuỗi hành vi người dùng và hiểu nội dung đa miền.

Trên 26 tiêu chuẩn tác vụ nội bộ, WeMM-Embedding-2B đã cải thiện hiệu suất từ 60,9 lên 72,0 so với các mô hình cơ sở cùng quy mô, đồng thời đạt được sự tăng trưởng trong cả năm nhóm tác vụ: phân loại, tìm kiếm, khớp chéo miền, liên quan đến bài viết và liên quan đến video.

IT đính kèm các liên kết liên quan:

Liên kết bài báo khoa học: https://arxiv.org/abs/2608.24053

Kho mã nguồn: https://github.com/Tencent/WeMM-Embedding

Bộ sưu tập mô hình: https://huggingface.co/collections/tencent/wemm-embedding

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết có chứa liên kết ngoài trên IT đều bao gồm tuyên bố này.