ShortOPD: Khôi phục các mô hình ngôn ngữ lớn (LLM) bị cắt tỉa bằng phương pháp chưng cất chính sách ngắn-dài

Tóm tắt AI

ShortOPD giải quyết tình trạng suy giảm khả năng tạo văn bản tự do của các LLM sau khi cắt tỉa bằng cách sử dụng phương pháp chưng cất chính sách (OPD) tập trung vào các chuỗi ngắn, giúp mô hình học lại hiệu quả mà không bị lãng phí tài nguyên vào các hậu tố lặp lại.