Xiaomi-Robotics-1: Dữ liệu chất lượng quan trọng hơn quy mô mô hình trong huấn luyện robot

Đó chính là khoảng cách mà Xiaomi-Robotics-1 đang cố gắng thu hẹp. Mô hình này được thiết kế để tuân theo các mệnh lệnh bằng lời nói hoặc văn bản trong những môi trường xa lạ mà không cần tiếp xúc trước, đồng thời có khả năng thích nghi với các tác vụ mới chỉ với một lượng đào tạo bổ sung rất nhỏ.

Thiết bị kẹp cầm tay thay thế cho các robot đắt tiền

Để vượt qua nút thắt về dữ liệu, Xiaomi hầu như đã loại bỏ các robot thực tế trong quá trình thu thập dữ liệu. Thay vào đó, nhóm nghiên cứu sử dụng các thiết bị kẹp cầm tay di động có gắn camera mà con người có thể dễ dàng cầm nắm và vận hành bằng tay. Thiết lập này cho phép ghi lại các tác vụ thao tác trong nhà bếp, văn phòng, cửa hàng, nhà xưởng và không gian ngoài trời mà không cần sự hiện diện của robot. Kết quả thu được là hơn 100.000 giờ ghi hình chuyển động.

Một tập dữ liệu lớn như vậy lại tạo ra một vấn đề khác vì mỗi bản ghi đều cần một mô tả để mô hình có thể học hỏi. Việc dán nhãn thủ công toàn bộ là không khả thi, vì vậy Xiaomi đã sử dụng một mô hình AI khác để mô tả từng phân đoạn chuyển động bằng văn bản. Nhóm nghiên cứu cho biết họ đã dán nhãn toàn bộ tập dữ liệu trong khoảng hai tuần.

Sau đó, Xiaomi chuyển giao quá trình đào tạo đó sang các robot vật lý, bao gồm cả các mô hình có bánh xe và hệ thống hai cánh tay. Mô hình vẫn phải tính đến sự khác biệt giữa thiết bị kẹp cầm tay và cánh tay robot.

Dữ liệu đào tạo quan trọng hơn quy mô mô hình

Các thử nghiệm cho thấy mô hình lớn hơn giúp cải thiện hiệu suất, nhưng dữ liệu đào tạo nhiều hơn mang lại kết quả vượt trội hơn nhiều so với việc tăng cường sức mạnh tính toán. Các nhà nghiên cứu cho biết tiến bộ trong AI robot sẽ phụ thuộc chủ yếu vào việc thu thập các tập dữ liệu lớn hơn và đa dạng hơn.

Phát hiện này phù hợp với những gì các nhà nghiên cứu đã chứng minh đối với dữ liệu hình ảnh vào đầu tháng 3. Đối với các mô hình ngôn ngữ, quy tắc lâu nay là quy mô mô hình và khối lượng dữ liệu nên tăng trưởng với tốc độ tương đương nhau để tận dụng tốt nhất ngân sách tính toán cố định. Sự cân bằng đó thay đổi khi một mô hình phải xử lý hình ảnh thay vì chỉ văn bản. Trong trường hợp đó, việc bổ sung dữ liệu mang lại hiệu quả cao hơn nhiều so với việc tăng quy mô mô hình.

Mô hình tương tự cũng xuất hiện trong các thử nghiệm với robot vật lý. Khi Xiaomi tăng lượng dữ liệu đào tạo, tỷ lệ thành công của mô hình trong các môi trường xa lạ đã tăng từ khoảng 25% lên 75%. Các nhà nghiên cứu cho biết họ vẫn chưa đạt đến ngưỡng mà việc bổ sung thêm dữ liệu không còn giúp cải thiện hiệu suất nữa.

Xiaomi cho biết Xiaomi-Robotics-1 đã đạt được kết quả tốt nhất từ trước đến nay trên các tiêu chuẩn đánh giá AI robot thông thường. Trong một bản demo, một robot được cho là đã tự đóng gói vali mà không cần sự trợ giúp của con người. Tác vụ này mất hơn mười phút và yêu cầu robot phải di chuyển khắp cả căn phòng.

Mô hình thích nghi với các tác vụ mới với ít dữ liệu đào tạo

Một mô hình nền tảng (foundation model) sẽ hữu ích nhất khi nó có thể thích nghi nhanh chóng với các tác vụ mới. Xiaomi đã thử nghiệm Xiaomi-Robotics-1 trên bốn tác vụ, bao gồm đóng gói điện thoại, cho quần áo vào máy giặt, nạp giấy vào máy in và đóng gói các vật phẩm vào hộp.

Với chưa đầy mười giờ dữ liệu đào tạo cho mỗi tác vụ, mô hình đã đạt tỷ lệ thành công trung bình là 75%. Một mô hình cạnh tranh từ Physical Intelligence chỉ đạt 40% trong cùng thử nghiệm. Xiaomi cho biết mô hình của họ hoạt động đặc biệt tốt với các vật liệu mềm, dễ biến dạng như giấy và trên các tác vụ đòi hỏi phải di chuyển xung quanh phòng.

Dữ liệu robot vẫn là trọng tâm chính của nghiên cứu robot học, và các nhóm đang theo đuổi những giải pháp rất khác nhau. Một cuộc khảo sát vào tháng 5 về World Action Models đã xem xét khoảng 100 nghiên cứu và nhận thấy rằng dữ liệu điều khiển từ xa (teleoperation) rất chính xác nhưng tốn kém và bị giới hạn trong một vài bối cảnh. Các thiết bị kẹp cầm tay của Xiaomi được thiết kế để giải quyết những hạn chế đó.

Nvidia, Đại học Carnegie Mellon và UC Berkeley đã sử dụng dự án ENPIRE để các tác nhân mã hóa AI tự động dạy cho một đội gồm tám robot cách nắm bắt đồ vật. Nvidia cũng muốn biến vấn đề dữ liệu của robot học thành vấn đề tính toán bằng cách tạo ra dữ liệu đào tạo tổng hợp.

Viện nghiên cứu BAAI của Trung Quốc đang đi theo hướng ngược lại. Mô hình thế giới Orca của họ học từ 125.000 giờ video mà không cần bất kỳ nhãn hành động nào và vẫn ngang bằng với mô hình chuyên biệt pi0.5 trên năm tác vụ thao tác. Xiaomi tự động hóa việc dán nhãn và áp dụng ở quy mô lớn, trong khi Orca cố gắng loại bỏ hoàn toàn các nhãn.

Physical Intelligence đóng vai trò là điểm tham chiếu trong cả hai trường hợp. Công ty này đã vấp phải sự chỉ trích về pi0.7 vào tháng 4 sau khi tuyên bố mô hình có thể khái quát hóa trong khi thực tế có thể nó chỉ đang gợi nhớ lại dữ liệu đào tạo tương tự. Phát hiện của Xiaomi rằng dữ liệu quan trọng hơn sức mạnh tính toán khiến câu hỏi đó trở nên khó giải quyết hơn.

Công trình này cũng phù hợp với các kế hoạch rộng lớn hơn của Xiaomi. Khi công ty giới thiệu các mô hình MiMo-V2 vào tháng 3, họ cho biết các tác nhân đó cuối cùng có thể điều khiển được robot.

Xiaomi có kế hoạch phát hành mô hình và mã nguồn trên GitHub và Hugging Face. Nhóm này gần đây cũng đã phát hành Xiaomi-Robotics-0 dưới dạng mã nguồn mở, tập trung vào khả năng vận hành nhanh, thời gian thực.