Cohere ra mắt North Small Translate: Mô hình dịch thuật MoE 218B đạt điểm 83.6 trên WMT26

Cohere vừa ra mắt North Small Translate, một mô hình dịch máy mã nguồn mở (open-weight) từ Cohere và Cohere Labs. Đây là mô hình Mixture-of-Experts (MoE) thưa với tổng cộng 218 tỷ tham số, trong đó có 25 tỷ tham số hoạt động. Mô hình hỗ trợ 50 ngôn ngữ, từ tiếng Albania đến tiếng Việt. Trong bài đánh giá WMT26 của Cohere, mô hình đạt điểm trung bình 83,6 trên tất cả các ngôn ngữ. Cohere cho biết kết quả này vượt trội hơn DeepL và Google Translate, cũng như các tùy chọn mã nguồn mở khác như GLM 5.2 và Mistral Large 3.

Có thể triển khai mô hình này không? Có. Bạn có thể sử dụng miễn phí qua API của Cohere cho đến khi đạt giới hạn tốc độ, tự lưu trữ (self-host) cho mục đích phi thương mại hoặc cấp phép cho mục đích thương mại.

Trở lại nơi khởi nguồn của Transformer

Các nhà nghiên cứu của Google đã giới thiệu Transformer vào năm 2017 với bài báo "Attention Is All You Need". Kết quả chính của nó đến từ việc dịch Anh-Đức và Anh-Pháp tại WMT 2014. 9 năm sau, Cohere đang quay trở lại vấn đề ban đầu đó với một mô hình chuyên dụng. Bài đăng ra mắt của Cohere trên X coi dịch thuật là một vấn đề về chủ quyền. Các tổ chức không thể giao tiếp toàn cầu sẽ không thể duy trì chủ quyền của mình.

North Small Translate là mô hình dịch thuật đầu tiên trong dòng sản phẩm North của Cohere. Nó tiếp nối Tiny Aya và Command A Translate trong dòng sản phẩm đa ngôn ngữ của Cohere. Cohere đã xây dựng mô hình này cùng với RWS, nơi các nhà khoa học tại Language Weaver và các chuyên gia ngôn ngữ đã định hình chất lượng thực tế của nó.

Kiến trúc

Cấu trúc mô hình mô tả một Transformer MoE thưa chỉ có bộ giải mã (decoder-only). Dưới đây là các chi tiết chính:

Khoảng 11,5% trọng số hoạt động trên mỗi token. Khả năng tính toán trên mỗi token tương ứng với 25 tỷ tham số hoạt động. Bộ nhớ vẫn phải lưu trữ toàn bộ 218 tỷ tham số.

Điểm chuẩn (Benchmarks)

Nhóm Cohere báo cáo các điểm số WMT26 cho tất cả ngôn ngữ trong blog ra mắt của họ:

Biến thể Agentic chạy một quy trình làm việc đa lượt giúp tìm và sửa lỗi của chính nó. Các thang điểm của Cohere coi mức từ 80 đến 100 là hoàn hảo hoặc chỉ có lỗi nhỏ. Một lưu ý quan trọng ở đây: Đây là các lượt chạy của riêng Cohere, với GPT-5.6-Sol đóng vai trò là giám khảo. Hãy coi đây là kết quả do nhà cung cấp báo cáo cho đến khi có kết quả WMT26 độc lập.

Về mặt khu vực, cả hai phiên bản đều vượt qua Gemma 4 31B trên khắp châu Âu. Đối với các ngôn ngữ EU, mô hình tiêu chuẩn đạt 82,17 điểm so với 72,73 điểm của Gemma. Khu vực Nam Á có kết quả sát sao, với 86,16 điểm cho North so với 88,04 điểm cho Gemma.

Tốc độ, Tài liệu dài và Chi phí

Trong các thử nghiệm của Cohere, mô hình tạo ra 112 token đầu ra mỗi giây so với 81 của Gemma 4 31B. Đó là ở mức độ đồng thời thấp trên cùng một phần cứng. Ở mức độ đồng thời cao, các con số là 39 so với 30. Cohere gọi đây là thông lượng cao hơn tới 1,4 lần.

Tài liệu dài là một điểm mạnh hơn. Mô hình đạt 48,9 điểm khi dịch 2 chương sách trong 1 lần gọi. Google Translate đạt 21,3 điểm và Gemma 4 31B đạt 19,4 điểm. Chất lượng được đo lường theo từng đoạn văn bằng xCOMET-XL.

Trong biểu đồ chi phí của Cohere, mô hình đạt 80,1 điểm với mức giá 0,000676 USD mỗi tác vụ, trung bình 661 token. Gemini 3.1 Pro Preview (cao cấp) có giá 0,038928 USD mỗi tác vụ, đắt hơn khoảng 58 lần. Qwen 3.5 397B A17B có giá 0,004525 USD và Command A+ có giá 0,005158 USD.

Cách chạy mô hình

Cách nhanh nhất là sử dụng Chat V2 API của Cohere. Mô hình được miễn phí tại đó cho đến khi đạt giới hạn tốc độ:

Đối với việc tự lưu trữ, Cohere công bố 3 checkpoint, chính là những checkpoint mà họ đang phục vụ trong môi trường sản xuất:

Những điểm chính cần lưu ý

Xem mô hình tại đây. Ngoài ra, hãy thoải mái theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML 150k+ thành viên của chúng tôi và đăng ký nhận bản tin. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Bạn cần hợp tác với chúng tôi để quảng bá GitHub Repo, trang Hugging Face, bản phát hành sản phẩm hoặc hội thảo trực tuyến của bạn? Hãy kết nối với chúng tôi.