Không phải token nào cũng quan trọng như nhau: Tái phân bổ trọng số trong suy luận chuỗi tư duy dài

Tóm tắt AI

Nghiên cứu chỉ ra rằng các phương pháp RLVR hiện nay phân bổ phần thưởng đồng đều cho mọi token là chưa tối ưu. Tác giả đề xuất phương pháp tái phân bổ dựa trên độ nhạy phản thực tế để xác định chính xác đóng góp của từng token vào kết quả cuối cùng.