Chiến lược tối ưu chi phí cho Claude 3.5 Opus: Dùng làm 'quản lý' điều phối tác vụ cho Sonnet

Claude Fable 5 rất đắt đỏ. Anthropic hiện khuyến nghị sử dụng mô hình này chủ yếu với vai trò lập kế hoạch, sau đó chuyển giao việc thực thi cho các mô hình nhỏ hơn. Đội ngũ phát triển Claude đã vạch ra hai chiến lược. Trong mô hình "Advisor" (Cố vấn), Sonnet 5 đóng vai trò là người thực thi và chỉ gọi Fable 5 khi cần hướng dẫn. Theo Anthropic, trên SWE-bench Pro, sự kết hợp này đạt khoảng 92% hiệu suất so với khi Fable 5 chạy độc lập nhưng chỉ với 63% chi phí. Fable 5 được gọi khoảng một lần cho mỗi tác vụ.

Trong mô hình thứ hai, Fable 5 đóng vai trò là người lập kế hoạch, ủy quyền các tác vụ cho các tác nhân (agent) thực thi Sonnet 5. Trên BrowseComp, phương pháp này mang lại 96% hiệu suất của Fable 5 với chỉ 46% chi phí. Cả hai mô hình đều chạy thông qua Claude Managed Agents, trong đó mỗi tác nhân phụ sử dụng bộ nhớ đệm (cache) riêng để tránh chi phí ngữ cảnh trùng lặp. Tài liệu chính thức có cung cấp thêm thông tin chi tiết.

Anthropic có khả năng chia sẻ những mẹo này do áp lực về giá ngày càng tăng. Các mô hình mã nguồn mở của Trung Quốc đã và đang cạnh tranh gay gắt về giá so với các mô hình phương Tây, và GPT-5.6 Sol mới ra mắt cũng có chi phí trên mỗi token rẻ hơn nhiều, đồng thời được cho là sử dụng token hiệu quả hơn.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay