Hiện tượng 'tái định hình hỗ trợ' do bộ kiểm chứng trong tối ưu hóa RLVR

Tóm tắt AI

Nghiên cứu chỉ ra rằng việc tối ưu hóa học tăng cường với bộ kiểm chứng (RLVR) có thể cải thiện hiệu suất hiện tại nhưng lại làm giảm khả năng khám phá các hành vi thành công trong tương lai, gây ra sự suy giảm đa dạng trong các phản hồi mô hình.