Meta ra mắt Muse Code và cập nhật Muse Spark 1.2

Chúng tôi rất hào hứng khi ra mắt Muse Code (bản beta), một tác nhân lập trình (coding agent) trên terminal được vận hành bởi Muse Spark 1.2, mô hình mới nhất của chúng tôi. Đây là bước tiến tiếp theo của chúng tôi hướng tới ranh giới công nghệ, với những mô hình lớn hơn và mạnh mẽ hơn đang được phát triển.

Cài đặt Muse Code trên macOS hoặc Linux:

Muse Code đảm nhận các tác vụ kỹ thuật phần mềm phức tạp trên các kho lưu trữ (repository) lớn: lập kế hoạch thay đổi, viết mã và xác thực kết quả. Nó có thể điều phối nhiều tác nhân phụ (subagent) thường trực cho mỗi tác vụ, giúp giải quyết các vấn đề khó khăn nhanh hơn, chính xác hơn và ít cần sự can thiệp hơn.

Muse Code

Các tác nhân nền bất đồng bộ (Async Background Agents)

Muse Code hoạt động với một vòng lặp tác nhân đơn giản cùng một tập hợp các tác nhân nền bất đồng bộ để tăng cường khả năng cho tác nhân chính. Các tác nhân nền chuyên biệt này duy trì trạng thái hoạt động trong suốt mỗi phiên làm việc thay vì chỉ được tạo ra cho các tác vụ riêng lẻ, giúp tránh việc thu thập thông tin dư thừa. Chúng thực hiện các bước tiếp theo và tự quyết định thời điểm phản hồi lại tác nhân chính. Tính thường trực của chúng giúp giảm độ trễ và giảm nhu cầu điều hướng trong các tác vụ phức tạp, nhiều bước.

Đang tải bản demo

Thiết kế Runtime

Muse Code sử dụng một nhật ký sự kiện cục bộ, nơi mọi lệnh gọi mô hình, chạy công cụ, phê duyệt và chỉnh sửa đều được ghi lại. Nguồn dữ liệu duy nhất này giúp runtime có khả năng phát lại chính xác và an toàn khi khởi động lại: sau khi gặp sự cố, tác nhân có thể tiếp tục công việc ngay tại điểm dừng. Khả năng này cho phép Muse Code đảm nhận các tác vụ chạy dài hạn mà không bị gián đoạn bởi các lỗi phát sinh.

Các kỹ năng tích hợp

Muse Code đi kèm với một số kỹ năng mặc định. /plan chuyển đổi một tác vụ thành kế hoạch cần phê duyệt, /grill kiểm tra áp lực kế hoạch đó cho đến khi nó hoàn thiện, và /goal hướng tới việc hoàn thành mục tiêu cụ thể đã đề ra.

Người dùng nhập video quay lướt (fly-through) của một ngôi nhà vào terminal dưới dạng tệp mp4. Muse Code diễn giải video và tạo ra một trang web đặt phòng và tiếp thị nhà nghỉ dưỡng với hình ảnh phong phú.

Muse Spark 1.2

Muse Spark 1.2 là bản cập nhật tập trung vào lập trình của Muse Spark 1.1, với những cải tiến về tạo mã, gỡ lỗi phức tạp, hiểu codebase và quy trình làm việc toàn diện cho nhà phát triển. Trong Muse Spark 1.2, chúng tôi đã mở rộng đáng kể tài nguyên tính toán huấn luyện cho các tác vụ lập trình, đồng thời tăng cường sự đa dạng của môi trường huấn luyện. Mô hình này cũng duy trì thế mạnh ở các lĩnh vực quan trọng khác như tác nhân tổng quát.

Để biết thêm chi tiết về các đánh giá của chúng tôi, hãy xem báo cáo của chúng tôi.

Đồng huấn luyện với Muse Code

Chúng tôi đã đồng huấn luyện Muse Spark 1.2 với Muse Code để đảm bảo mô hình đạt hiệu suất và khả năng sử dụng lập trình tốt nhất khi kết hợp với nhau. Quá trình huấn luyện bao gồm các quỹ đạo harness được lấy mẫu từ chối (rejection sampled) và tối ưu hóa công thức cho các mục tiêu, nén dữ liệu và các tác nhân phụ, cùng với việc tích hợp bộ công cụ Muse Code để tối đa hóa khả năng tương thích với harness.

Tác vụ dài hạn (Long-Horizon)

Muse Spark 1.2 đã được huấn luyện chuyên sâu trên các tác vụ lập trình dài hạn, bao gồm tạo toàn bộ kho lưu trữ, các dự án lớn toàn diện và tự động nghiên cứu. Nó tận dụng việc lập kế hoạch để sắp xếp công việc, điều kiện hóa mục tiêu để duy trì định hướng và nén ngữ cảnh để giữ lại kiến thức cần thiết nhằm duy trì tiến độ.

Tự cải thiện

Chúng tôi cũng sử dụng Muse Spark 1.1 để tạo ra các môi trường lập trình đầy thử thách và các mẫu tuân thủ hướng dẫn. Sau đó, mô hình đánh giá các giải pháp ứng viên dựa trên mức độ đáp ứng các yêu cầu đó, tạo ra một tập dữ liệu huấn luyện có thể mở rộng cho Muse Spark 1.2. Vòng lặp tự cải thiện này đã giúp Muse Spark 1.2 tuân thủ các hướng dẫn phức tạp chính xác hơn so với phiên bản tiền nhiệm.

Nghiên cứu điển hình: Tối ưu hóa Kernel

Chúng tôi đã kiểm tra khả năng của mô hình trong việc tối ưu hóa lặp đi lặp lại các GPU kernel qua hơn 1.000 lệnh gọi công cụ (lên đến 24 giờ). Tận dụng môi trường lập trình tác nhân của Muse Code, mô hình viết, biên dịch, phân tích và cải thiện dần hiệu suất kernel so với bản triển khai cơ sở (baseline) được cung cấp. Chúng tôi đã đánh giá trên các kernel KDA và MLA cho GPU NVIDIA Hopper. Tác nhân tiếp tục đạt được những cải tiến đáng kể so với bản triển khai cơ sở được cung cấp.

Bản cơ sở là bản triển khai FLA Triton của KDA. Các mô hình bị cấm nhập trực tiếp các thư viện kernel của bên thứ ba như FLA; thay vào đó, chúng phải áp dụng kiến thức tối ưu hóa kernel chuyên biệt để triển khai thuật toán trong Triton, thay vì bao bọc các bản triển khai hiện có. Muse Spark 1.2 đã kết hợp một kernel chuẩn bị chunk-parallel với một quá trình quét tuần tự giữa các chunk, kết hợp các kỹ thuật fusion và tiling tiêu chuẩn với các tối ưu hóa đặc thù cho KDA như tái định tâm (re-centering) sự phân rã tích lũy có cổng (gated cumulative decay) tại điểm giữa của chunk.

Tính khả dụng

Muse Spark 1.2 hiện đã có sẵn trong Muse Code và Meta Model API với quyền truy cập toàn cầu được mở rộng. Chúng tôi có rất nhiều dự định trong tương lai, bao gồm các tính năng harness mới và các mô hình mạnh mẽ hơn. Chúng tôi rất nóng lòng được thấy những gì bạn sẽ xây dựng!

Bắt đầu với Muse Code