Muon có thực sự giúp ích cho Reinforcement Learning trong tác vụ Agent?

Tóm tắt AI

Nghiên cứu chỉ ra rằng thuật toán tối ưu hóa Muon giúp cải thiện đáng kể hiệu suất của các mô hình ngôn ngữ trong tác vụ Reinforcement Learning (RL) với phần thưởng thưa thớt, vượt trội hơn AdamW trong nhiều cấu hình huấn luyện.