GitHub ra mắt Project HydraFusion: Tối ưu chi phí và hiệu suất cho Copilot nhờ điều phối đa mô hình

Trong các đánh giá ngoại tuyến (offline) có kiểm soát, các quy trình mã hóa chọn lọc của HydraFusion đã đạt hoặc vượt mức cơ sở của Opus 5, đồng thời giảm chi phí quy trình ước tính. Hiện đã có bản xem trước nghiên cứu (research preview) trong GitHub Copilot.

Ngày 4 tháng 9 năm 2026

9 phút

Cung cấp cho các nhà phát triển mô hình tốt nhất cho tác vụ hiện tại luôn là mục tiêu của chúng tôi. Đầu năm nay, chúng tôi đã giúp việc này trở nên dễ dàng hơn bằng cách ra mắt tính năng Tự động chọn mô hình (Auto model selection), giúp xem xét tác vụ của bạn và khớp nó với mô hình phù hợp nhất cho tác vụ đó.

Hôm nay, chúng tôi giới thiệu Project HydraFusion, một bản xem trước nghiên cứu mang đến trí tuệ tiên phong thông qua điều phối thời gian thực (runtime orchestration). Dự án này tạo ra một kế hoạch thực thi đầy đủ, lựa chọn từ các mô hình của nhiều nhà cung cấp khác nhau để soạn thảo, phê bình và sửa đổi, hoặc chuyển tiếp (cascade) sang các mô hình mạnh mẽ hơn để hoàn thành tác vụ của bạn.

HydraFusion đóng vai trò then chốt trong chiến lược tổng thể của chúng tôi nhằm cung cấp khả năng định tuyến ngữ nghĩa tự động giữa các mô hình cục bộ, đám mây và mô hình hỗn hợp (compound models). Đối với các nhà phát triển, sự phức tạp đó được xử lý ở phía sau: bạn chọn HydraFusion giống như bất kỳ mô hình nào khác, và nó sẽ chọn một quy trình làm việc cân bằng giữa hiệu suất, chi phí và độ trễ cho từng tác vụ.

HydraFusion coi việc lựa chọn quy trình làm việc là một bài toán tối ưu hóa. Nó sử dụng các tín hiệu năng lực cho việc suy luận, tạo mã, gỡ lỗi và sử dụng công cụ để chọn mô hình thực thi hiệu quả nhất nhằm đáp ứng tiêu chuẩn chất lượng.

Đối với mỗi yêu cầu, HydraFusion hiện chọn một trong ba mô hình thực thi:

Mỗi mô hình giải quyết một sự đánh đổi khác nhau giữa chất lượng và chi phí. Single (Đơn lẻ) duy trì tốc độ và hiệu quả khi một mô hình có thể giải quyết trực tiếp tác vụ. Cascade (Chuyển tiếp) cho phép một mô hình hiệu quả thử nghiệm trước, đồng thời giữ lại lộ trình đến các mô hình suy luận mạnh hơn nếu ứng viên ban đầu không vượt qua được cổng chấp nhận. Critique (Phê bình) bổ sung một góc nhìn độc lập cho các tác vụ mà việc đánh giá hữu ích hơn là thực hiện lại một cách đơn thuần.

Trong các đánh giá ngoại tuyến trên ba tiêu chuẩn mã hóa tác nhân (agentic coding benchmarks), HydraFusion liên tục chứng minh chất lượng ở mức tiên phong với mức tiết kiệm chi phí ước tính đáng kể. Trên TerminalBench 2.1, nó đã cải thiện chất lượng tác vụ được xác minh thêm 4,9 điểm phần trăm với chi phí ước tính thấp hơn 67% so với Claude Opus 5.

Hãy cùng đi sâu vào phương pháp, kết quả và các tiêu chuẩn đánh giá.

Điều phối đa mô hình thích ứng

Các nhà phát triển vốn đã phối hợp các mô hình theo cách thủ công: chọn một mô hình cho một tác vụ, yêu cầu mô hình khác xem xét công việc hoặc leo thang một vấn đề khó lên mô hình có năng lực cao hơn. HydraFusion đưa quy trình quen thuộc đó vào thời gian thực. Bạn chọn HydraFusion một lần và tập trung vào tác vụ của mình trong khi nó quản lý các mô hình và quy trình làm việc ở phía sau.

Chìa khóa nằm ở tính chọn lọc. Một số tác vụ mã hóa có thể được giải quyết trực tiếp, trong khi những tác vụ khác cần được xem xét, sửa đổi hoặc leo thang. HydraFusion đánh giá từng yêu cầu và chọn quy trình ít phức tạp nhất dự kiến đáp ứng được nhu cầu, chỉ sử dụng các lệnh gọi mô hình bổ sung khi chúng có khả năng cải thiện kết quả. Phương pháp thích ứng này cân bằng chất lượng, chi phí và độ trễ giữa các mô hình.

Khi các mô hình tiên phong tiến bộ, HydraFusion cũng vậy. Khi các mô hình mới có sẵn trong GitHub Copilot, chúng tôi có thể đánh giá và tích hợp chúng vào nhóm mô hình của mình, mang thế mạnh của chúng đến các tác vụ phù hợp nhất.

Xây dựng HydraFusion

Việc biến điều phối đa mô hình thích ứng thành một trải nghiệm mã hóa đáng tin cậy đòi hỏi sự kiểm soát cẩn thận về thực thi, đánh giá, chi phí và trạng thái kho lưu trữ. HydraFusion được xây dựng dựa trên năm nguyên tắc vận hành:

Cùng với nhau, các nguyên tắc này làm cho việc điều phối đa mô hình trở nên thiết thực đối với công việc ở cấp độ kho lưu trữ. Về nội bộ, thời gian thực ghi lại vai trò, kết quả, chi phí, độ trễ và chẩn đoán của từng giai đoạn để quy trình có thể được hiểu sau khi thực thi. Về bên ngoài, nhà phát triển nhận được một phản hồi mạch lạc và một bộ thay đổi (change set) có nhận thức về quyền.

Kết quả đánh giá

Các chính sách HydraFusion cố định đã được đánh giá trên ba tiêu chuẩn mã hóa tác nhân — TerminalBench 2.1, DeepSWE và CheckpointBench (tiêu chuẩn nội bộ của chúng tôi dựa trên các phiên GitHub Copilot thực tế) — sử dụng Claude Opus 5 và GPT-5.6 Sol làm cơ sở so sánh. Mỗi chính sách sử dụng cùng đầu vào tác vụ, công cụ, giới hạn thực thi, giả định giá, điều kiện chấm điểm và cách xử lý các kết quả thiếu sót. Đánh giá đo lường chất lượng tác vụ được xác minh (tỷ lệ các tác vụ được xác nhận là trả lời đúng) và tổng chi phí quy trình ước tính. Việc hạch toán chi phí bao gồm mọi giai đoạn được gọi, chẳng hạn như soạn thảo, phê bình, sửa đổi, leo thang, thử lại và dự phòng. Các kết quả dưới đây cho thấy cấu hình HydraFusion được tinh chỉnh tốt nhất.

Các kết quả ngoại tuyến có kiểm soát này dành riêng cho các bản sửa đổi tiêu chuẩn, cấu hình quy trình, nhóm mô hình và giả định giá được đánh giá, với tất cả các mô hình được đánh giá ở cùng mức suy luận trung bình. Thông qua bản xem trước nghiên cứu này, chúng tôi sẽ xác thực cách các kết quả này chuyển đổi sang khối lượng công việc thực tế của nhà phát triển và sử dụng các phát hiện để tối ưu hóa hơn nữa HydraFusion về chất lượng sản xuất, độ trễ, độ tin cậy, hiệu quả bộ nhớ đệm, chi phí và tính an toàn.

TerminalBench 2.1

TerminalBench 2.1 đánh giá các tác nhân mã hóa trên các tác vụ phức tạp, nhiều bước trong môi trường dòng lệnh (terminal).

Hình 2 so sánh HydraFusion và Opus 5 về chất lượng tác vụ được xác minh và chi phí quy trình ước tính.

DeepSWE

DeepSWE đánh giá các tác vụ kỹ thuật phần mềm cấp kho lưu trữ đầy thách thức, đòi hỏi phải điều hướng các cơ sở mã lớn, hiểu các phụ thuộc giữa các tệp và tạo ra các bản sửa lỗi toàn diện (end-to-end). Trên tiêu chuẩn này, HydraFusion đạt kết quả trong phạm vi 1,5 điểm phần trăm so với Opus 5 trong khi giảm chi phí 36%, cho thấy sự đánh đổi chất lượng-chi phí hấp dẫn cho các tác vụ kỹ thuật thực tế phức tạp.

CheckpointBench

CheckpointBench là một tiêu chuẩn đa lượt nội bộ được tuyển chọn từ các phiên mã hóa tác nhân GitHub Copilot thực tế. Mỗi cuộc hội thoại được gắn với một kho lưu trữ công khai cụ thể và một commit bất biến, đảm bảo mọi phiên đều có thể phát lại. Tiêu chuẩn này được cân bằng giữa ngôn ngữ, loại tác vụ, độ khó, đã được làm sạch để đảm bảo chất lượng, tạo ra một tập hợp đánh giá thực tế phản ánh sát sao các phiên tác nhân trong sản xuất. Trên tiêu chuẩn này, HydraFusion đạt kết quả trong phạm vi 0,1 điểm phần trăm so với Opus 5 với chi phí thấp hơn 65%.

Các thử nghiệm nội bộ ban đầu đã phản ánh kết quả đó.

Cho đến nay, khả năng suy luận và giải quyết tác vụ [của HydraFusion] ngang bằng hoặc tốt hơn Opus.

Tối ưu hóa HydraFusion

Các chính sách định tuyến của HydraFusion được hình thành dựa trên cách các nhà phát triển sử dụng GitHub Copilot trong các tác vụ mã hóa thực tế. Để làm cho các quy trình đó có thể tái lập, chúng tôi đã tuyển chọn CheckpointBench từ các quỹ đạo phiên mã hóa Copilot thực tế. Chúng tôi đã tinh chỉnh HydraFusion nhiều lần trên CheckpointBench, DeepSWE và TerminalBench 2.1, tối ưu hóa trên các tập hợp đánh giá thay vì cho bất kỳ tiêu chuẩn đơn lẻ nào.

Điểm số theo năng lực của HydraFusion cung cấp cơ sở nhất quán để so sánh các chính sách định tuyến ứng viên. Thay vì điều chỉnh ngưỡng thủ công, chúng tôi đã sử dụng tìm kiếm chùm (beam search) để xây dựng chính sách quyết định tối ưu. Mỗi ứng viên được đo lường dựa trên một cơ sở cố định về chất lượng, chi phí và các chế độ lỗi, vì vậy các cải tiến được đánh giá trên nền tảng ổn định.

TerminalBench 2.1 cung cấp chuỗi chạy hoàn chỉnh nhất, mang lại cái nhìn rõ ràng nhất về sự cải tiến lặp đi lặp lại này. Sự tiến triển không diễn ra theo đường thẳng. Từ ngày 11 tháng 8 đến ngày 25 tháng 8, hai lỗi vận hành trong bộ công cụ đánh giá đã tạo ra các lần chạy không hợp lệ. Những lỗi đó đã bị loại khỏi xu hướng hiệu suất, được sửa chữa và theo sau là những bước tiến liên tục trong các cấu hình HydraFusion. Đến ngày 25 tháng 8, HydraFusion đã đạt đến các điểm vận hành mạnh nhất trong chuỗi được ghi lại.

Hồ sơ phát triển này cho thấy cách các chính sách được cải thiện từ các thử nghiệm lặp đi lặp lại. TerminalBench 2.1 là một trong nhiều tiêu chuẩn được sử dụng trong quá trình phát triển. Sự bão hòa tương đối của nó làm cho việc xác thực rộng hơn trở nên quan trọng, vì vậy đánh giá ba tiêu chuẩn cũng bao gồm các tác vụ cấp kho lưu trữ đòi hỏi khắt khe hơn của DeepSWE. Bản xem trước nghiên cứu mở rộng vòng lặp học tập đó sang khối lượng công việc thực tế của nhà phát triển.

Trải nghiệm bản xem trước nghiên cứu

Đối với bản xem trước này, các tác vụ mã hóa lượt đầu tiên, một lời nhắc (single-prompt) là nơi tốt nhất để bắt đầu. Chúng tôi sẽ tập trung vào hiệu suất đa lượt mạnh mẽ với các phiên lặp dài hơn trong thời gian tới.

Bản xem trước này được thiết kế để tìm hiểu những tác vụ nào được hưởng lợi từ quy trình làm việc hỗn hợp và cách điều phối ảnh hưởng đến độ trễ và chi phí trong thực tế. Để có trải nghiệm tốt nhất hiện nay, hãy bắt đầu với các tác vụ mã hóa đáng kể, được xác định phạm vi rõ ràng mà bạn có thể giao cho Copilot ở chế độ autopilot trong một lời nhắc duy nhất. Hãy chia sẻ những gì bạn tìm thấy, bao gồm cả những điểm xuất sắc, những điểm còn thiếu sót và những gì bạn muốn thấy tiếp theo, thông qua /feedback trong Copilot CLI hoặc trong phần thảo luận của GitHub Community.