Pi: Công cụ lập trình tối giản với hiệu suất vượt trội và chi phí thấp

Sự tối giản là lợi thế của Pi

AI đã giúp việc viết mã trở nên rẻ hơn, và kết quả là nhiều công ty đang xây dựng các công cụ lớn hơn để theo đuổi hiệu suất tốt hơn. Các prompt lớn hơn, nhiều sự điều phối hơn, nhiều lớp hơn, nhiều sự phức tạp hơn. Điều này cũng khiến các công cụ này trở nên đắt đỏ hơn về bản chất khi sử dụng. Pi đi theo hướng ngược lại.

Pi là một bộ khung (harness) lập trình chọn sự tối giản một cách có chủ đích. Nó được trang bị sẵn chỉ với 4 công cụ, và hệ thống prompt cùng định nghĩa công cụ của nó nằm dưới mức 1.000 token. Ý tưởng ở đây là hầu hết công việc có thể được thực hiện với những thứ cơ bản, và nếu bạn muốn nhiều hơn, hãy tự xây dựng nó.

Bằng chứng ngày càng cho thấy thiết kế của Pi không chỉ gọn gàng hơn; mà còn rẻ hơn và hiệu quả hơn. Người dùng nhận thấy rằng phiên bản Pi gốc (vanilla Pi) mang lại kết quả dẫn đầu ngành, ngay cả trước khi thêm các phần mở rộng để phù hợp với quy trình làm việc và nhu cầu cụ thể của người dùng. Như chúng ta sẽ thấy trong các nghiên cứu điển hình về Databricks và Shopify, Pi đã tạo ra kết quả lý tưởng cho cả hai.

Các nghiên cứu điển hình

Nghiên cứu của Databricks: Chi phí trên mỗi tác vụ

Databricks gần đây đã chia sẻ những phát hiện của họ trong bài viết “Đánh giá các tác nhân lập trình trên cơ sở mã hàng triệu dòng của Databricks”. Mục tiêu nghiên cứu của họ là tìm hiểu xem tác nhân lập trình nào mang lại hiệu suất tốt nhất cho các tác vụ lập trình thực tế, và hiệu suất tác vụ thay đổi như thế nào theo giá cả.

Để tránh sự thiên kiến từ các bài kiểm tra đánh giá (benchmarks) bên ngoài vốn đã quá bão hòa, họ đã tự tạo ra các bài kiểm tra dựa trên những tác vụ mà đội ngũ kỹ sư của họ thường xuyên thực hiện. Kết quả khớp với những gì chúng ta mong đợi, nhưng lại là điều khiến nhiều người trong ngành ngạc nhiên. Theo lời họ: “...bộ khung mà một mô hình được gọi từ đó ảnh hưởng đáng kể đến chi phí và chất lượng,” và “trong nhiều trường hợp, các bộ khung đơn giản như Pi lại hoạt động tốt nhất trên khối lượng công việc của chúng tôi.”

Khi kết hợp với Opus 4.8, xhigh, Pi có tỷ lệ vượt qua tổng thể cao nhất, với chi phí thấp hơn đáng kể so với cả Claude Code và Codex.

Bộ khung tối giản, hiệu quả đo lường được

Pi tỏa sáng vì nó không cố gắng bao bọc mô hình bằng hàng loạt các thiết lập mặc định và hướng dẫn vốn dễ bị lạc mất trong hệ thống phân cấp chỉ dẫn. Thay vào đó, Pi không gây cản trở mô hình, và đội ngũ có thể thêm những gì họ thực sự cần cho quy trình làm việc của mình.

Nghiên cứu của Databricks rất sâu sắc vì nó tách biệt mô hình khỏi bộ khung.

Họ báo cáo rằng khi chạy cùng một mô hình với cùng nỗ lực tư duy thông qua các bộ khung khác nhau, “chi phí cho mỗi tác vụ khác biệt đáng kể (trong một số trường hợp là hơn 2 lần), trong khi chất lượng vẫn giữ nguyên”. Chúng tôi gọi đây là “kỷ luật ngữ cảnh” (context discipline) của Pi. “Pi gửi ít ngữ cảnh hơn khoảng 3 lần cho mỗi lượt. Nó quản lý ngữ cảnh tốt hơn, duy trì một tập hợp làm việc chặt chẽ hơn và hoàn thành các tác vụ trong ít lượt chạy hơn.”

Chúng tôi đồng ý rằng cần phải tính đến kinh tế kỹ thuật toàn diện (end-to-end), chứ không chỉ là giá trên mỗi token. Điều này cũng đúng ở cấp độ mô hình; ví dụ, chúng tôi đã quan sát thấy rằng việc chạy các quy trình làm việc phức tạp trên Haiku 4.5 thường đắt hơn so với Sonnet 4.6, đặc biệt là khi có liên quan đến việc thực thi mã, đơn giản vì tác nhân cần nhiều lượt hơn để hoàn thành tác vụ thành công.

Giờ đây, chúng ta cũng thấy điều này ở cấp độ bộ khung; các mô hình mạnh hơn, đắt tiền hơn với một bộ khung hiệu quả có thể rẻ hơn so với trường hợp ngược lại.

Shopify xây dựng Pi Autoresearch: Khả năng mở rộng đánh bại sự cồng kềnh

Sự tối giản là một phần trong triết lý cốt lõi của Pi. Điều làm cho cách tiếp cận này hiệu quả là tối giản không có nghĩa là thiếu linh hoạt. Trên thực tế, đây là cơ sở hạ tầng tác nhân (agentic infrastructure) được sử dụng rộng rãi đầu tiên được tạo ra cho khả năng mở rộng và khả năng tự chỉnh sửa.

Một sự xác nhận bên ngoài sâu sắc khác về thiết kế của Pi đến từ Shopify. Trong bài đăng này từ Shopify Engineering, David Cortés mô tả việc xây dựng pi-autoresearch trực tiếp như một phần mở rộng của Pi, bằng cách đơn giản yêu cầu “Pi, hãy tạo một phần mở rộng cho Autoresearch...”. Pi đọc tài liệu về phần mở rộng của chính nó và bắt đầu xây dựng một quy trình làm việc mới từ đó.

Autoresearch là một vòng lặp tự động để tối ưu hóa với các tác nhân lập trình. Khi bạn yêu cầu thay đổi, nó sẽ chạy các thử nghiệm để tìm ra những gì hiệu quả và những gì gây ra lỗi hồi quy (regressions). Miễn là mục tiêu có thể đo lường được, nó có thể loại bỏ các lỗi hồi quy này và tiếp tục tự cải thiện.

Đối với Shopify và những đơn vị khác, phần mở rộng Autoresearch nhanh chóng trở thành một công cụ năng suất nội bộ quan trọng. Shopify đã báo cáo các trường hợp bao gồm các bài kiểm tra đơn vị (unit tests) chạy “nhanh hơn 300 lần”, việc gắn kết thành phần React “nhanh hơn 20%”, giảm thời gian xây dựng trên nhiều dự án và thậm chí cải thiện hiệu suất pnpm.

Điểm quan trọng ở đây là Pi không cung cấp sẵn bất kỳ công cụ nào trong số này. Thay vào đó, nó giúp bạn xây dựng chúng một cách cực kỳ đơn giản. Thay vì giả định nhà cung cấp biết quy trình làm việc của bạn và cố gắng cung cấp mọi công cụ trên đời, Pi giả định rằng bạn là người hiểu rõ nhất, và trao cho bạn khả năng mở rộng để tự vận dụng và tạo ra quy trình làm việc của riêng mình.

Tại sao sự tối giản lại thắng thế vào lúc này

Khoảng một năm trước, có thể lập luận rằng các bộ khung gốc (native harnesses) có lợi thế cấu trúc so với tất cả các bộ khung khác, vì các mô hình được xây dựng xung quanh chúng. Tuy nhiên, lập luận này đã trở nên yếu đi.

Các mô hình tiên phong (frontier models) hiện nay nhìn chung rất giỏi trong việc hiểu môi trường lập trình terminal (hoặc kiểu terminal) và hành động trong đó. Việc Anthropic gần đây cắt giảm 80% prompt hệ thống của Claude Code là một dấu hiệu rõ ràng cho điều này. Vì vậy, câu hỏi không còn nằm ở việc bộ khung đó có "gốc" hay không, mà là cách nó xử lý ngữ cảnh để tránh dư thừa và hành động với các nguyên hàm (primitives) sạch sẽ. Các mô hình cần một giao diện sạch sẽ với môi trường, và một bộ khung không gây lãng phí ngữ cảnh.

Pi cung cấp điều này: ít chi phí prompt và ngữ cảnh lặp lại hơn, các lượt chạy rẻ hơn, ít các lớp trừu tượng không cần thiết hơn. Vì nó có khả năng mở rộng, bạn không mất đi sức mạnh mà đạt được sự chọn lọc. Bạn chỉ thêm sự phức tạp khi nó thực sự "đáng giá".

Chúng tôi cũng đang thấy các mô hình cục bộ (local models) phát triển nhanh chóng, và tại Earendil, chúng tôi thấy chúng rất hứa hẹn. Kỷ luật ngữ cảnh của Pi đặc biệt là một tài sản ở đây. Các mô hình cục bộ thường có cửa sổ ngữ cảnh nhỏ hơn, và quá trình prefill có thể mất nhiều thời gian, vì vậy việc duy trì một tiền tố prompt ổn định là rất quan trọng. Kỷ luật ngữ cảnh có nghĩa là chúng tôi không thay đổi ngữ cảnh nếu không có yêu cầu rõ ràng từ người dùng, tránh việc phải prefill lại mất hàng phút. Kết hợp với prompt hệ thống mặc định tối giản và bộ công cụ sẵn có, điều này làm cho Pi trở thành một bộ khung lý tưởng cho các mô hình cục bộ.

Pi đang chứng minh rằng nó có thể quản lý tất cả. Để trở nên rẻ hơn, tối giản hơn và hiệu quả hơn.