Nghiên cứu
Rufus-Air: Công thức hậu huấn luyện mã nguồn mở cho mô hình GLM-4.5-Air-Base
(giờ Việt Nam)
Tóm tắt AI
Rufus-Air công bố quy trình hậu huấn luyện có thể tái lập cho GLM-4.5-Air-Base (106B-A12B), bao gồm 8 giai đoạn từ SFT, RLHF đến các tác nhân chuyên biệt như Coding và Search Agent.
Chính văn · Bản dịch AI
Tác giả: Chia-Yuan Chang, Renyuan Cheng, Rui Feng, Xiaotian Han, Yuan He, Hongye Jin, Linwei Li, Shiyang Li, Fenglin Liu, Xin Liu, Priyanka Nigam, Haoyang Wen, Zhenghao Xu, Zhuocheng Xu, Bing Yin, Qingyu Yin, Chao Zhang, Rongzhi Zhang, Zhihan Zhang, Zixuan Zhang, Zixuan Zhang, Tuo Zhao
Tóm tắt: Rufus-Air là một công thức hậu huấn luyện mở và có thể tái lập trên GLM-4.5-Air-Base (106B-A12B), được tổ chức thành một quy trình tuần tự gồm tám giai đoạn: SFT, Reasoning RL, Coding RL, Instruction-Following RL, General Agent, Coding Agent, Search Agent và RLHF. Chúng tôi ghi lại dữ liệu, thiết kế phần thưởng, cơ sở hạ tầng, thứ tự giai đoạn và kết quả từng giai đoạn cần thiết để tái lập công thức này. Các giai đoạn tiến triển từ khả năng cơ bản đến nâng cao và từ các phần thưởng khó, có thể kiểm chứng sang các tín hiệu dựa trên đánh giá mềm dẻo hơn. Quá trình huấn luyện được xây dựng dựa trên các thành phần mã nguồn mở và dữ liệu công khai, phần lớn được sử dụng nguyên trạng mà không cần chú thích mới từ con người hay mô hình giáo viên chưng cất nội bộ. Những phát hiện chính của chúng tôi là: (i) SFT đa dạng, chất lượng cao thiết lập một nền tảng năng lực vững chắc; (ii) lọc độ khó giúp giữ các prompt RL trong phạm vi học tập hiệu quả; (iii) độ tin cậy của phần thưởng cung cấp một nguyên tắc thực tiễn để sắp xếp thứ tự các giai đoạn; và (iv) các lựa chọn về cơ sở hạ tầng và kỹ thuật là một phần của công thức, không chỉ là chi tiết triển khai. Rufus-Air cải thiện so với bản phát hành hậu huấn luyện GLM-4.5-Air chính thức và có khả năng cạnh tranh với các mô hình mở có kích thước tương đương.
| Ghi chú: | 47 trang, 9 hình, 20 bảng. Các tác giả được liệt kê theo thứ tự bảng chữ cái của họ; tất cả đều đóng góp khi còn làm việc tại Amazon. Hai tác giả tên Zixuan Zhang là hai người khác nhau. |
| Chủ đề: | Tính toán và Ngôn ngữ (cs.CL); Trí tuệ nhân tạo (cs.AI); Học máy (cs.LG) |
| Trích dẫn là: | arXiv:2609.29421 [cs.CL] |
| (hoặc arXiv:2609.29421v1 [cs.CL] cho phiên bản này) | |
| https://doi.org/10.48550/arXiv.2609.29421 DOI do arXiv cấp thông qua DataCite (đang chờ đăng ký) |
Lịch sử gửi bài
Từ: Yuan He [xem email] [v1] Thứ Năm, 24 tháng 9 năm 2026 11:45:03 UTC (2.180 KB)
Bài viết được AI dịch và tổng hợp tự động từ HuggingFace Daily Papers (bài nghiên cứu nổi bật của cộng đồng). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.