Nghiên cứu
Giải mã tư duy ẩn: Khai thác và phân tích chuỗi suy luận (CoT) trong các mô hình AI tiên tiến
(giờ Việt Nam)
Tóm tắt AI
Nghiên cứu này giới thiệu phương pháp trích xuất chuỗi suy luận ẩn từ các mô hình đóng như GPT-6 Astra, chứng minh rằng các bước suy luận này cải thiện đáng kể hiệu suất trong toán học, khoa học và lập trình.
Chính văn · Bản dịch AI
Tóm tắt: Những bước tiến nhanh chóng về năng lực của các mô hình ngôn ngữ tiên phong thường được cho là nhờ khả năng suy luận được cải thiện, tuy nhiên điều này không thể kiểm chứng vì các dấu vết CoT thô trong các hệ thống mã nguồn đóng đều bị ẩn đi. Bằng cách đăng ký một công cụ tùy chỉnh đơn giản thông qua tính năng API tiêu chuẩn, chúng tôi thúc đẩy các mô hình tiên phong ngoại hóa quá trình suy luận trung gian. Vì các dấu vết này có thể phản ánh sự hợp lý hóa hậu kiểm thay vì suy luận thực sự, trước tiên chúng tôi đánh giá dựa trên CoT gốc trên các mô hình mã nguồn mở và mở rộng sang các mô hình tiên phong mã nguồn đóng bao gồm GPT-6 Astra. Chúng tôi nhận thấy rằng quá trình suy luận được trích xuất khớp với hiệu suất suy luận gốc và vượt trội đáng kể so với các đường cơ sở không suy luận, trên các lĩnh vực toán học thi đấu, khoa học và tạo mã. Sau đó, chúng tôi mô tả cách các mô hình tiên phong cấu trúc quá trình suy luận trung gian của chúng. Thông qua hiệu quả sử dụng token, các loại bước suy luận và cây suy luận được tạo ra, chúng tôi xác định những khác biệt có hệ thống trong cách các mô hình ngoại hóa, nén và tổ chức suy luận. Chúng tôi nhận thấy rằng Astra thể hiện khả năng suy luận có định hướng hiệu quả về token, chọn quỹ đạo đúng sớm hơn, đồng thời giải quyết các bước sơ cấp bên trong và chỉ ngoại hóa các suy luận quan trọng. Những phát hiện này cung cấp một góc nhìn hành vi về khả năng suy luận của các mô hình tiên phong vượt ra ngoài điểm số chuẩn.
| Bình luận: | 33 trang, 14 hình ảnh |
| Chủ đề: | Tính toán và Ngôn ngữ (cs.CL); Trí tuệ nhân tạo (cs.AI); Mật mã học và Bảo mật (cs.CR) |
| Trích dẫn là: | arXiv:2609.26637 [cs.CL] |
| (hoặc arXiv:2609.26637v1 [cs.CL] cho phiên bản này) | |
| https://doi.org/10.48550/arXiv.2609.26637 DOI do arXiv cấp thông qua DataCite (đang chờ đăng ký) |
Lịch sử gửi bài
Từ: Xiaoyu Luo [xem email] [v1] Thứ Ba, 22 tháng 9 năm 2026 16:10:18 UTC (1.643 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hugging Face Daily Papers. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.