Cognition ra mắt SWE-2: Mô hình lập trình đột phá với chi phí thấp hơn 64% so với Fable 5.1

Cognition, công ty đứng sau tác nhân lập trình Devin, vừa ra mắt SWE-2, mô hình lập trình mạnh mẽ nhất của họ cho đến nay. SWE-2 được huấn luyện hậu kỳ (post-trained) bằng phương pháp học tăng cường (reinforcement learning) từ Kimi K3, mô hình mở 2.8T tham số của Moonshot AI. Cognition báo cáo đạt điểm số 50.0% trên FrontierCode 1.1 Main, chỉ kém Fable 5.1 chưa đầy 1 điểm nhưng với chi phí thấp hơn 64%. Đây cũng là mô hình đầu tiên của Cognition có các cấp độ nỗ lực suy luận (reasoning-effort) có thể tùy chọn, tất cả đều được huấn luyện trong một lần chạy RL duy nhất.

Có thể triển khai được không? Không phải trên cơ sở hạ tầng của riêng bạn. SWE-2 không có trọng số mở và không có API độc lập. Hiện tại, nó chỉ chạy bên trong Devin: Desktop và CLI, với Devin Web và Fusion đang được triển khai.

SWE-2 là gì?

SWE-2 được xây dựng dựa trên cơ sở hạ tầng và công thức đằng sau SWE-1.7, vốn được huấn luyện hậu kỳ từ Kimi K2.7. Lần này, Cognition đã mở rộng quy mô RL lên ngưỡng hàng nghìn tỷ tham số, sử dụng mô hình cơ sở có số lượng tham số lớn gấp gần 3 lần. Cognition cho biết RL của họ vẫn tìm thấy dư địa đáng kể trên nền tảng K3, giúp tăng từ 5 đến 6 điểm trên nhiều tiêu chuẩn đánh giá (benchmark).

Thay đổi chính là thuật toán RL giúp huấn luyện cả 3 cấp độ nỗ lực trong một lần chạy. Mỗi cấp độ đều đi kèm với mức phạt chi phí riêng, do đó toàn bộ đường biên chi phí và hiệu suất (cost-and-performance frontier) sẽ dịch chuyển cùng lúc.

Kết quả Benchmark

Cognition đã công bố bảng dưới đây. Các kết quả công khai được sử dụng nếu có; nếu không, mỗi mô hình sẽ chạy trong môi trường thử nghiệm gốc của nó với nỗ lực tốt nhất.

SWE-2 dẫn đầu trên Terminal-Bench 2.1 và vượt qua mô hình cơ sở K3 của nó ở mọi hàng. Cognition cho biết mô hình này đạt kết quả chỉ kém GPT-6 Astra vài điểm với chi phí bằng một phần tư. Điểm yếu rõ ràng là Terminal-Bench 4, nơi SWE-2 đứng sau Fable 5.1 và GPT-6 Astra khoảng 30 điểm. FrontierCode là tiêu chuẩn đánh giá riêng của Cognition, và tất cả các con số của đối thủ đều đến từ đánh giá của Cognition.

Hành vi của mô hình: Ít đường vòng hơn

SWE-1.7 có xu hướng khám phá quá mức (over-explore) trên các tác vụ đơn giản. SWE-2 giải quyết vấn đề này thông qua cái mà Cognition gọi là khám phá tập trung (focused exploration). Trên FrontierCode 1.1 Main, SWE-2 bản medium đạt điểm cao hơn SWE-1.7 trong khi giảm 58% số lượt thực hiện và chi phí thấp hơn 81%. Số bước trung bình mỗi lần chạy giảm từ 127 (SWE-1.7) xuống còn 53 (medium), 80 (high) và 98 (max). SWE-2 medium thực hiện chỉnh sửa thực tế đầu tiên sau trung bình 18 bước, so với 48 bước của SWE-1.7.

Nhóm Cognition cũng báo cáo 3 mô hình hành vi: độ bao phủ kiểm thử end-to-end mạnh mẽ hơn, khả năng xoay xở khi công cụ bị chặn và kỷ luật xác minh. Khi bị thách thức, mô hình sẽ suy luận lại các kết luận thay vì khẳng định lại chúng.

Cách thức huấn luyện

Hình phạt chi phí dựa trên Pareto: Phần thưởng là R = S trừ đi lambda nhân C, trong đó S là thành công nhị phân và C là sự kết hợp giữa chi phí suy luận bằng USD và thời gian triển khai. Cognition chứng minh rằng chỉ có hình phạt tuyến tính mới khiến mục tiêu RL phụ thuộc hoàn toàn vào chi phí trung bình và tỷ lệ giải quyết. Lambda của mỗi cấp độ nỗ lực được đặt bằng độ dốc cục bộ của đường cong Pareto của mô hình cơ sở. Điều đó làm cho đường đẳng phần thưởng (iso-reward line) tiếp tuyến với đường biên, vì vậy phần thưởng chỉ có thể tăng bằng cách đẩy đường biên lên cao hơn.

Đường cơ sở phần thưởng có trọng số độ dài: Cognition chia sẻ một đường cơ sở đã được sử dụng từ SWE-1.6. Độ lớn gradient tương quan mạnh với độ dài triển khai, vì vậy đường cơ sở nhóm được tính trọng số theo token: tổng(R x L) chia cho tổng(L). Trong các thử nghiệm cắt bỏ (ablations), điều này giúp giữ cho sự phân kỳ KL từ suy luận đến huấn luyện ở mức thấp hơn và ổn định quá trình huấn luyện mà không tốn thêm tài nguyên tính toán.

Phục vụ triển khai và số học: Một bộ trì hoãn tiền nạp (prefill delayer) thực hiện gom nhóm các yêu cầu gần nhau, giúp tăng TPM trên mỗi GPU và TPS trên mỗi yêu cầu từ 10 đến 20%. Giải mã suy đoán DSpark (DSpark speculative decoding) giúp tăng tốc quá trình triển khai, với mô hình dự thảo được huấn luyện lại qua SpecForge để có độ dài chấp nhận dài hơn 15% và sau đó được huấn luyện trực tuyến cùng với chính sách. Các nhân NVFP4 và FP8 với huấn luyện nhận biết lượng tử hóa (quantization-aware training) giúp giảm mức sử dụng bộ nhớ và giữ cho sự sai lệch giữa huấn luyện và suy luận thấp hơn mức của SWE-1.7.

Dữ liệu: Cognition đã tăng gấp ba lần môi trường RL của mình, thêm các lớp phủ tuân thủ hướng dẫn (instruction-following overlays) và xây dựng một bánh đà (flywheel) sử dụng các điểm kiểm tra (checkpoints) SWE-2 trước đó để vá các kết quả dương tính giả và âm tính giả trong các trình xác minh.

Kiểm tra độ tin cậy

Cognition đã chạy lại 2 đánh giá từ nghiên cứu độ tin cậy mã nguồn mở của họ. Trên 145 câu hỏi nhạy cảm về chính trị liên quan đến Trung Quốc, SWE-2 vượt qua 98.0% tổng thể: 99.8% bằng tiếng Anh, 95.2% bằng tiếng Trung giản thể và 99.1% bằng tiếng Trung phồn thể. Trong một bài kiểm tra lỗ hổng phụ thuộc vào ngữ cảnh trên các khung khách hàng khác nhau, không có khung nào tạo ra sự thay đổi có ý nghĩa thống kê đối với bất kỳ mô hình nào.

Công cụ giải thích tương tác

Những điểm chính cần lưu ý

Hãy xem các chi tiết kỹ thuật. Ngoài ra, đừng ngần ngại theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML 150k+ thành viên của chúng tôi và đăng ký nhận bản tin. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Bạn cần hợp tác với chúng tôi để quảng bá GitHub Repo, Hugging Face Page, Product Release, Webinar, v.v. của bạn? Hãy kết nối với chúng tôi.