WAM tự tiến hóa: Viện AIR Thanh Hoa và DomainX giới thiệu phương pháp học nhân quả trong ngữ cảnh cho robot

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

01-09-2026 13:12:30 Nguồn: QbitAI

Đóng băng tham số, năng lực bứt phá

Bài đăng từ nhóm Zeva

QbitAI | Kênh chính thức QbitAI

Mô hình không cập nhật, nhưng năng lực liên tục tăng trưởng.

Đây là điểm phản trực giác nhất của Zeva, cũng là câu trả lời mới mà Tsinghua AIR và Domain Adaptation cùng đưa ra.

Trên nhiều tác vụ chuẩn về trí tuệ thể chất (embodied AI), tỷ lệ thành công tích lũy của mô hình đóng băng đã tăng từ 26% lên 73%; trong phòng thí nghiệm hóa học thực tế, cánh tay robot ngày càng hoạt động ổn định hơn qua nhiều lần thử nghiệm.

Quan trọng hơn, chỉ cần một lần trình diễn của con người là mô hình có thể "học" được một thao tác mới.

Zeva là WAM (World Action Model) thể chất đầu tiên hiện thực hóa In-Context Causal Learning (ICCL).

Nó cho phép mô hình tiếp tục học hỏi từ kinh nghiệm tương tác của chính mình mà không cần cập nhật trọng số. Khi năng lực này dần hoàn thiện, trí tuệ thể chất sẽ đón nhận "khoảnh khắc GPT" của riêng mình.

Thông tin dự án

Tên dự án: Zeva; Đơn vị công bố: Tsinghua AIR, Domain Adaptation; Tên bài báo: Zeva: In-Context Causal Learning for Generalizable Embodied Manipulation; Trang chủ dự án: https://air-embodied-brain.github.io/Zeva/

Tại sao việc tự tiến hóa của mô hình thể chất lại khó khăn trong quá khứ?

Nút thắt thực sự của trí tuệ thể chất chính là "liệu mô hình có thể làm tốt hơn khi đưa vào thực tế hay không".

Theo tư duy truyền thống, muốn robot thích nghi với môi trường mới, thường phải thu thập lại dữ liệu, tinh chỉnh (fine-tune) mô hình hoặc thực hiện test-time training.

Tuy nhiên, các phương pháp này phụ thuộc vào cập nhật gradient, tốc độ chậm, chi phí cao và có thể làm hỏng các năng lực đã có khi thích nghi với tác vụ mới.

Một nhóm phương pháp in-context learning khác cho phép mô hình điều chỉnh hành vi dựa trên trình diễn hoặc mô tả tác vụ, nhưng chủ yếu giải quyết vấn đề "hiểu tác vụ" chứ không giúp mô hình học được nhân quả vật lý từ hậu quả của chính hành động của nó.

Từ "tổng quát hóa tác vụ" đến "chuyển đổi nhân quả"

Trước đây khi nói về liên miền (cross-domain), chúng ta thường nhắc đến sim-to-real, chuyển đổi thực thể hoặc tổng quát hóa tác vụ. Các phương pháp này phần lớn dựa vào căn chỉnh dữ liệu hoặc căn chỉnh biểu diễn, về bản chất là di chuyển "kinh nghiệm tác vụ" giữa các miền khác nhau.

Zeva tiến xa hơn: thứ nó chuyển đổi chính là "mối quan hệ nhân quả giữa hành động và sự thay đổi trạng thái".

Cùng một mô hình, nhân quả vật lý học được trong mô phỏng có thể mang sang cánh tay robot thực tế; kinh nghiệm thất bại tích lũy trong một lần thử có thể hướng dẫn cho lần thử nghiệm quá trình vật lý tương tự khác; một lần trình diễn của con người cũng có thể trực tiếp trở thành ngữ cảnh nhân quả cho robot.

Sự chuyển đổi liên miền này được hoàn thành thông qua ngữ cảnh. Mô hình suy luận cấu trúc nhân quả của môi trường trong ngữ cảnh và sử dụng tri thức nhân quả đó cho việc tạo hành động tiếp theo. Đây chính là In-Context Causal Learning mà Zeva định nghĩa.

Ví dụ 1: Trích xuất quan hệ nhân quả từ thao tác sai khi đặt giấy cân, hoàn thành học trong ngữ cảnh, nâng cao độ chính xác của tác vụ.

Ví dụ 2: Trích xuất quan hệ nhân quả từ thao tác sai khi cân thuốc thử lên giấy cân, hoàn thành học trong ngữ cảnh, nâng cao độ chính xác của tác vụ.

Ví dụ 3: Hoàn thành học nhân quả trong ngữ cảnh từ một lần trình diễn của con người.

Zeva: Đưa "học nhân quả" vào ngữ cảnh mô hình

△ Khung tổng thể của Zeva. Mô hình thực hiện tự tiến hóa trong quá trình triển khai thông qua Causal Interaction Extraction, Dual-timescale Causal Memory và In-Context Policy Injection mà không cần cập nhật trọng số. Nguồn ảnh: Bài báo

Zeva là một mô hình. Các thành phần Causal Transition Encoder, Dual-timescale Causal Memory và In-Context Policy Injection của nó đều thuộc một phần của chuỗi suy luận mô hình.

Tại mỗi bước môi trường, Zeva trích xuất ba loại tín hiệu: trạng thái thị giác, mã hóa hành động và sự thay đổi trạng thái quan sát được.

Chúng được mã hóa đệ quy thành Causal Interaction State, và được chiếu tiếp thành Phase Token và Causal Interaction Signal.

Các tín hiệu nhân quả này được tổ chức thành ngữ cảnh hai thang đo thời gian: Brief Interaction Trace chịu trách nhiệm cho việc thực thi nhất quán trong lần thử hiện tại, Persistent Interaction Memory tích lũy kinh nghiệm có thể tái sử dụng qua các lần thử.

Khi ra quyết định, Zeva truy xuất các bằng chứng tương tác khớp với giai đoạn tác vụ hiện tại, xây dựng Causal Prompt và đưa vào mô hình tạo hành động Cosmos3 đã đóng băng. Toàn bộ quá trình không có cập nhật gradient.

Phân tích kỹ thuật: Zeva "lấy nhỏ thắng lớn" như thế nào?

Điểm sáng 1: Causal Transition Encoder, giúp mô hình nhìn thấy "hành động → kết quả".

Mô hình học một cách tường minh sự thay đổi trạng thái do hành động gây ra. Mục tiêu huấn luyện bao gồm dự đoán hiệu quả nhân quả, phân cụm tác vụ và tiến độ giai đoạn, giúp Causal Interaction Signal thực sự mang theo thông tin nhân quả vật lý.

Điểm sáng 2: Bộ nhớ nhân quả hai thang đo thời gian, giúp mô hình có thể tự tiến hóa qua các lần thử.

BIT đảm bảo tính nhất quán của việc thực thi hiện tại, PIM biến một lần thất bại, một lần sửa lỗi, một lần thành công thành ngữ cảnh có thể truy xuất sau này. Cùng một mô hình sẽ ngày càng mạnh hơn qua các lần thử lặp lại (repeated attempts).