IterSynth: Tối ưu hóa tác vụ tìm kiếm chuyên sâu thông qua cơ chế tách biệt vai trò và tổng hợp lặp

Tác giả: Xingyu Wu, Yuchen Yan, Zhengxi Lu, Siqi Chen, Xin ZHANG, Aiting Liu, Chao Deng, Jie Liu, Jin Ma, Jian Shao, Jun Xiao, Yongliang Shen

Xem PDF HTML (thử nghiệm)

Tóm tắt: Tìm kiếm chuyên sâu đòi hỏi các tác nhân LLM phải phân tách các truy vấn phức tạp, tìm kiếm bằng chứng và tổng hợp các câu trả lời có căn cứ. Tuy nhiên, các tác nhân theo phong cách ReAct hiện nay đang gặp phải hai hạn chế: sự ghép nối vai trò (role coupling), nơi một chính sách phải xử lý cả việc lập kế hoạch, sử dụng bằng chứng và tổng hợp; và sự tích lũy ngữ cảnh (context accumulation), nơi lịch sử tìm kiếm ngày càng dài tạo ra nhiễu và làm lu mờ các thông tin hữu ích. Để giải quyết những vấn đề này, chúng tôi đề xuất IterSynth, một mô hình tách biệt vai trò và dựa trên tóm tắt, luân phiên giữa một Planner (Bộ lập kế hoạch) để xác định nhu cầu thông tin và một Synthesizer (Bộ tổng hợp) để tích hợp bằng chứng vào trạng thái tóm tắt đang phát triển. Thiết kế này tách biệt việc lập kế hoạch khỏi việc tổng hợp, đồng thời sử dụng bản tóm tắt làm trạng thái bền vững của quá trình tìm kiếm, giúp giảm thiểu cả sự ghép nối năng lực và nhiễu ngữ cảnh. Để huấn luyện IterSynth hiệu quả, chúng tôi giới thiệu thêm Role-Decoupled Policy Optimization (RDPO) cho học tăng cường, kết hợp phần thưởng kết quả cuối cùng với các đánh giá theo tiêu chí từng lượt và tính toán các ưu thế đặc thù cho từng vai trò để phân bổ tín dụng chính xác hơn. Các thử nghiệm trên năm tiêu chuẩn tìm kiếm chuyên sâu dài hạn như BrowseComp và Xbench-DS cho thấy IterSynth-8B đạt điểm trung bình 50,7, vượt qua tác nhân $\leq$8B mạnh nhất trước đó +4,2\%. Hơn nữa, IterSynth đóng vai trò là một mô hình gợi nhắc (prompting) bất khả tri, mang lại những cải thiện zero-shot đáng kể so với ReAct và các mô hình gợi nhắc tương tự trên các mô hình độc quyền tiên tiến.

Lịch sử gửi bài

Từ: Xingyu Wu [xem email] [v1] Thứ Năm, 24 tháng 9 năm 2026 12:02:53 UTC (2.969 KB)