D-JEPA: Mô hình thế giới tiềm ẩn được căn chỉnh theo quyết định

Xem PDF HTML (thử nghiệm)

Tóm tắt: Các mô hình thế giới tiềm ẩn (latent world models) dự đoán hậu quả của các hành động, nhưng việc dự đoán chính xác không đảm bảo rằng khoảng cách tiềm ẩn (latent distance) phản ánh ứng viên nào sẽ thực hiện thành công. Chúng tôi xác định một khoảng cách dự đoán cục bộ theo quyết định (decision-local prediction gap): trong số ít các tương lai cạnh tranh để được thực thi, một ứng viên được dự đoán gần mục tiêu hơn có thể tạo ra kết quả thực tế tệ hơn so với một lựa chọn thay thế khả thi. Chúng tôi giới thiệu D-JEPA, một mô hình thế giới tiềm ẩn được căn chỉnh theo quyết định (decision-aligned latent world model), học các mối quan hệ liên quan đến quyết định giữa các tương lai ứng viên từ các kết quả đã thực thi. Một toán tử có giới hạn, bất biến với hoán vị (permutation-equivariant) cùng suy luận trên các đặc trưng dự đoán tương đối với mục tiêu và bằng chứng thứ tự, tinh chỉnh hình học dự đoán đã được huấn luyện trước tại nơi các lựa chọn hành động có ảnh hưởng lớn nhất. Việc thích ứng bộ dự đoán bị hạn chế và giao diện thứ tự dùng chung mở rộng sự căn chỉnh này trên các hình học dự đoán bổ sung. D-JEPA thực hiện hóa cấu trúc quyết định đã học trong các biểu diễn tương lai tương thích với JEPA, cho phép triển khai thông qua lập kế hoạch khoảng cách tiềm ẩn gốc. Các đánh giá trên các tác vụ điều khiển tiềm ẩn, thao tác, các mô hình tạo hành động đã huấn luyện trước, robot vật lý và lái xe tự động cho thấy khả năng lựa chọn hành động được cải thiện, bao gồm 87,89% thành công trên PushT, mức tăng trung bình 15,04 điểm trên RoboTwin và mức tăng 17 điểm trên các tác vụ robot vật lý. Những kết quả này thiết lập cấu trúc quan hệ liên quan đến quyết định như một cầu nối trực tiếp giữa mô hình hóa thế giới dự đoán và điều khiển hiệu quả.

Lịch sử gửi bài

Từ: Shuaijun Liu [xem email] [v1] Thứ Hai, 21 tháng 9 năm 2026 15:17:32 UTC (6.179 KB)