Orca: Mô hình thế giới từ Trung Quốc đạt hiệu suất robot chuyên dụng mà không cần dữ liệu hành động

Theo báo cáo kỹ thuật, trí tuệ không nên được định nghĩa bởi các mô hình dự đoán chuyên biệt như mô hình ngôn ngữ, trình tạo video hay bộ điều khiển robot. Nhóm nghiên cứu lập luận rằng, điều cần thiết là các mô hình xây dựng được sự hiểu biết tổng quát về cách thế giới thay đổi và có thể sử dụng điều đó làm nền tảng cho nhiều tác vụ khác nhau.

Hai phương pháp huấn luyện kết hợp với nhau

Orca kết hợp hai chế độ học tập. "Học tập vô thức" (Unconscious learning) sử dụng các video thô không có chú thích. Mô hình quan sát một hình ảnh và dự đoán hình ảnh tiếp theo sẽ trông như thế nào, không phải ở cấp độ pixel mà trong một không gian trừu tượng, từ đó nắm bắt các mô hình chuyển động, sự che khuất và động lực học điển hình của cảnh quay.

"Học tập có ý thức" (Conscious learning) bổ sung các hướng dẫn bằng lời nói. Các video được chia thành từng phân đoạn, mỗi phân đoạn được gắn nhãn mô tả sự thay đổi trạng thái, nhờ đó mô hình học được cách trạng thái chuyển dịch khi một hành động cụ thể xảy ra. Nó cũng được huấn luyện trên các tác vụ hỏi đáp video cổ điển để vẫn có thể phản hồi các truy vấn bằng ngôn ngữ tự nhiên.

Một lõi cố định với các đầu ra có thể thay thế

Mô hình ngôn ngữ-hình ảnh tiền huấn luyện Qwen3.5 đóng vai trò là nền tảng, và sau khi huấn luyện, lõi này được giữ cố định (frozen). Đối với mỗi loại đầu ra, các nhà nghiên cứu gắn thêm một mô-đun nhỏ riêng biệt để chuyển đổi trạng thái nội tại thành dạng mong muốn. Văn bản được xử lý qua đầu ra ngôn ngữ hiện có của Qwen3.5. Đối với hình ảnh, Stable Diffusion 3.5 cũng được giữ nguyên, chỉ có các bộ điều hợp (adapter) nhỏ ở phía trước được huấn luyện để truyền trạng thái nội tại của Orca sang trình tạo hình ảnh. Các hành động của robot đến từ một mô-đun điều khiển được huấn luyện từ đầu có tên là "Action Expert".

Sự phân tách này là có chủ đích vì nhóm nghiên cứu cho biết họ không cố gắng theo đuổi điểm số cao nhất trên các tiêu chuẩn đơn lẻ. Thay vào đó, họ muốn chứng minh rằng một trạng thái thế giới nội tại được huấn luyện tốt có thể đóng vai trò là nền tảng chung cho các tác vụ rất khác nhau.

Để huấn luyện, các nhà nghiên cứu đã tập hợp 125.000 giờ cảnh quay video, 160 triệu mô tả sự kiện và 11,5 triệu cặp câu hỏi-trả lời. Các video bao gồm bốn góc nhìn, từ các cảnh quay góc nhìn thứ nhất về các tương tác hàng ngày, cảnh quay góc nhìn thứ ba về việc xử lý đồ vật, các bản ghi robot không có dữ liệu hành động, cho đến các cảnh quay tự nhiên. Chỉ một phần mười dữ liệu video đã được đưa vào phiên bản hiện tại.

Hành vi mở rộng và kết quả đánh giá

Orca được huấn luyện ở hai kích thước, với 0,8 và 4 tỷ tham số. Tổn thất huấn luyện (training loss) giảm dần khi có nhiều dữ liệu hơn và mô hình lớn hơn, các thử nghiệm ban đầu cũng cho thấy trạng thái thế giới nội tại càng tốt trong quá trình tiền huấn luyện thì kết quả trên cả ba chế độ đầu ra càng tốt.

Trên các tiêu chuẩn văn bản, Orca-4B đạt mức trung bình tổng thể tốt nhất là 51,8% trên các tập MVBench, TemporalBench, 3DSRBench và SWITCH so với các VLM nhỏ và mô hình thế giới lớn hơn được so sánh. Nó vượt qua một số mô hình VLM cơ sở như Qwen3.5-4B, Gemma 4-4B và DeepSeek-VL2-3B về điểm trung bình, mặc dù không thắng mọi bài kiểm tra (ví dụ: Qwen3.5-4B dẫn đầu trên MVBench). Orca-4B cũng vượt qua các mô hình thế giới lớn hơn nhiều là Emu3 (8B) và Emu3.5 (34B) về điểm trung bình.

Đối với dự đoán hình ảnh, các nhà nghiên cứu đã xây dựng tiêu chuẩn riêng có tên PRICE-V0.1, sử dụng các cảnh quay robot thực tế và góc nhìn thứ nhất, yêu cầu mô hình tạo ra hình ảnh hiển thị kết quả của một lệnh như "đóng lò vi sóng". Orca-4B đạt 59,8% trung bình, đánh bại các trình tạo hình ảnh chuyên biệt như FLUX.2 small (56,1%), FLUX.1-context (40,9%) và OmniGen2 (39,6%). Orca giữ nguyên hình dạng của robot, các điểm tiếp xúc với đồ vật và mối liên hệ với hướng dẫn tốt hơn so với các mô hình hình ảnh thuần túy, vốn thường thêm các vật thể không liên quan hoặc tạo ra các bàn tay ảo giác.

Điều khiển robot mà không cần dữ liệu hành động trong quá trình tiền huấn luyện

Trong năm tác vụ thao tác sử dụng robot hình người hai tay trên bánh xe, bao gồm xếp sách, xếp bát và múc đường, Orca ngang bằng với π0.5, một hệ thống được xây dựng chuyên biệt trên dữ liệu robot. Mô hình cơ sở của Orca chưa bao giờ thấy chuyển động nào đi kèm với hình ảnh nào trong quá trình tiền huấn luyện. Để điều khiển robot thực tế, một mô-đun riêng biệt đã được huấn luyện sau đó trên 200 bản ghi thực tế cho mỗi tác vụ, ghép nối hình ảnh camera với các chuyển động được thực hiện.

V-JEPA 2.1 và Qwen3.5, khi kết hợp với cùng một mô-đun điều khiển làm cơ sở, đều kém xa. Orca cũng cho thấy ưu thế trong việc phục hồi lỗi, thử lại sau khi nắm hụt trong khi π0.5 vẫn bị mắc kẹt trong các thất bại lặp đi lặp lại theo các ví dụ trong bài báo. Các tác giả coi đây là một cách tiềm năng để giảm bớt tình trạng thiếu hụt dữ liệu hành động được gắn nhãn kinh niên trong lĩnh vực robot.

Những gì còn thiếu sót

Để huấn luyện, nhóm sử dụng thư viện FlagScale nội bộ với một số tinh chỉnh về bộ nhớ và giao tiếp, đạt tốc độ 2,91 mẫu huấn luyện mỗi giây trên mỗi GPU thẻ H100. Tốc độ này nhanh hơn khoảng 4,4 lần so với StarVLA, một cơ sở mã được sử dụng rộng rãi trong lĩnh vực robot.

Orca hiện chỉ học từ hình ảnh và văn bản, hoàn toàn thiếu âm thanh, lực và xúc giác. Dự đoán hình ảnh chạy trong không gian của một bộ mã hóa hình ảnh tiền huấn luyện thay vì tự học không gian thế giới từ đầu, và với 0,8 và 4 tỷ tham số, các mô hình này quá nhỏ để mô hình hóa thế giới đầy đủ. Các mô tả sự kiện chỉ bao phủ các khoảng thời gian ngắn vài phút. BAAI cho biết một mô hình thế giới gốc được huấn luyện từ đầu trên nhiều loại tín hiệu vẫn là mục tiêu cuối cùng.

Cách định nghĩa mô hình thế giới vẫn là chủ đề gây tranh cãi trong nghiên cứu AI. Một nhóm dẫn đầu bởi Đại học Bắc Kinh đã đề xuất một định nghĩa thống nhất với OpenWorldLib, loại bỏ các mô hình văn bản-thành-video thuần túy như Sora. Một tiêu chuẩn của Đại học Thanh Hoa cho thấy ngay cả Sora 2 và Veo 3.1 cũng gặp khó khăn với sự tiến triển của cảnh quay hợp lý về mặt vật lý. Trong lĩnh vực robot, các Mô hình Hành động Thế giới (World Action Models) kết hợp dự đoán chuyển đổi trạng thái với tạo hành động, giúp việc học từ các video hàng ngày thông thường không chứa dữ liệu hành động trở nên khả thi.