Mô hình AI đóng vai trò 'bộ định tuyến': Tự động tối ưu chi phí bằng cách ủy thác tác vụ

Nội dung dịch chi tiết

Ethan Mollick, một chuyên gia trong lĩnh vực AI, đã đưa ra ý tưởng rằng các mô hình ngôn ngữ tiên tiến (đặc biệt là các phiên bản tương lai) có thể đóng vai trò như một 'bộ định tuyến' (router). Thay vì tự mình thực hiện mọi việc, chúng có khả năng tự động ủy quyền các tác vụ có độ phức tạp thấp cho những mô hình nhỏ hơn, ít tốn kém hơn.

Cách tiếp cận này giúp tối ưu hóa chi phí vận hành đáng kể mà vẫn duy trì được hiệu suất công việc. Thay vì sử dụng một mô hình mạnh mẽ và đắt đỏ cho mọi yêu cầu, hệ thống sẽ chỉ dùng nguồn lực lớn khi thực sự cần thiết.

Lập trình viên Simon Willison đã thực hiện ý tưởng này trong dự án Fable. Anh đã thiết lập chỉ dẫn cho mô hình chính: 'Đối với tất cả các tác vụ lập trình, hãy tự đánh giá và quyết định chọn một mô hình tiêu thụ ít năng lượng phù hợp để chạy trong các tác nhân con'.

Kết quả thực tế cho thấy phương pháp này giúp tiết kiệm một lượng lớn token. Điều này mở ra một xu hướng mới trong kiến trúc AI: các tác nhân (agents) trong tương lai có thể được xây dựng với một AI lập kế hoạch mạnh mẽ làm cốt lõi, chịu trách nhiệm tự phân bổ công việc cho các mô hình chuyên biệt khác.