LangSmith ra mắt tính năng Preview Builds: Kiểm thử AI Agent trước khi hợp nhất mã nguồn

Preview Builds là một tính năng mới của LangSmith Deployment giúp việc kiểm thử các thay đổi của agent trước khi hợp nhất (merge) trở nên dễ dàng hơn.

Thay vì phải tạo một bản triển khai mới cho mỗi pull request, bạn có thể khởi chạy một bản triển khai tạm thời, mô phỏng môi trường production từ một nhánh PR. Nhóm của bạn có thể chạy agent đề xuất, chia sẻ với cộng tác viên, kiểm tra hành vi của nó trong cùng một môi trường và gỡ bỏ khi hoàn tất.

Một pull request có thể thay đổi các prompt, công cụ, mô hình, phần phụ thuộc hoặc các tích hợp. Tác động của những thay đổi đó thường chỉ trở nên rõ ràng khi agent thực thi. Kiểm thử cục bộ (local testing) hữu ích trong quá trình phát triển, nhưng hiếm khi cung cấp cho các thành viên còn lại trong nhóm một nơi nhất quán để đánh giá hành vi trước khi thay đổi được đưa lên production.

Preview Builds cung cấp cho mỗi PR một môi trường staging riêng cho agent của bạn. Các nhóm có thể kiểm thử thay đổi trong LangSmith Deployment trước khi hợp nhất mà không cần thêm thiết lập triển khai phức tạp vào quy trình CI/CD của họ.

Kiểm thử các nhánh trong môi trường đã triển khai

Khi một pull request kích hoạt Preview Build, LangSmith sẽ triển khai nhánh nguồn trong một môi trường biệt lập được liên kết với bản triển khai gốc (parent deployment). Bản xem trước này chạy mã nguồn đang được đánh giá mà không làm cập nhật bản gốc.

Điều này mang lại cho các nhóm một nơi để kiểm thử toàn diện agent. Người đánh giá có thể thử nghiệm các prompt, thực thi các lệnh gọi công cụ, kiểm tra các trace và xem xét cách agent phản hồi với các phần phụ thuộc và dịch vụ đã được cấu hình. Họ cũng có thể kiểm thử các đường dẫn lỗi và các trường hợp biên (edge cases) có thể không xuất hiện trong quá trình review mã nguồn.

Vì bản xem trước chạy như một bản triển khai, các cộng tác viên không cần phải clone repository hay tái tạo lại thiết lập cục bộ của lập trình viên. Mọi người đều đánh giá cùng một phiên bản của agent trong cùng một môi trường.

Đồng bộ hóa bản xem trước với các pull request

LangSmith xây dựng commit mới nhất từ nhánh nguồn của pull request trên một bản triển khai xem trước có thời gian tồn tại ngắn. Khi có người đẩy (push) một commit khác vào nhánh đó, LangSmith sẽ tự động tạo một phiên bản mới của bản triển khai xem trước đó.

Điều này giúp bản xem trước luôn hữu ích trong suốt quá trình đánh giá. Lập trình viên có thể phản hồi các góp ý, đẩy bản cập nhật và yêu cầu cộng tác viên kiểm thử lại thay đổi mà không cần tạo thêm môi trường mới hoặc hợp nhất các công việc chưa hoàn thiện. Pull request vẫn là nơi thảo luận về mã nguồn, trong khi bản xem trước cung cấp một phiên bản đang chạy của thay đổi được đề xuất.

Các nhóm có thể chọn cách pull request kích hoạt bản xem trước:

"Every PR" (Mọi PR) hoạt động hiệu quả khi hầu hết các thay đổi đều cần đánh giá hành vi. "Label only" (Chỉ theo nhãn) giúp các nhóm kiểm soát tốt hơn khi chỉ muốn chạy bản xem trước cho các thay đổi được chọn.

Cung cấp cho cộng tác viên một môi trường đánh giá chung

Việc đánh giá agent thường liên quan đến những người ngoài nhóm viết mã. Các quản lý sản phẩm có thể muốn kiểm tra trải nghiệm người dùng, các chuyên gia lĩnh vực có thể cần xác thực thuật ngữ hoặc hành vi chính sách, và đội ngũ QA có thể muốn kiểm thử các trường hợp lỗi đã biết.

Một bản triển khai xem trước cung cấp cho những cộng tác viên đó một sản phẩm chung gắn liền với pull request. Họ có thể kiểm thử trực tiếp agent được đề xuất và để lại phản hồi khi thay đổi vẫn còn dễ dàng chỉnh sửa. Các kỹ sư có thể sử dụng cùng bản xem trước đó để kiểm tra các lệnh gọi công cụ và trace đằng sau một phản hồi.

Các nhóm cũng có thể chạy nhiều bản triển khai xem trước cùng lúc. Các pull request riêng biệt vẫn được giữ biệt lập, vì vậy người đánh giá có thể so sánh các thay đổi mà không cần phải di chuyển bản triển khai staging chung giữa các nhánh.

Kiểm soát việc sử dụng và dọn dẹp bản xem trước

Preview Builds bao gồm các công cụ để quản lý môi trường tạm thời một cách dễ dàng:

Các bản triển khai xem trước sẽ sao chép các bí mật (secrets) của bản triển khai gốc khi được tạo và giữ nguyên bộ thiết lập ban đầu đó trừ khi bạn ghi đè chúng. Đối với các dịch vụ nhạy cảm, hãy sử dụng thông tin xác thực được giới hạn cho các workload xem trước thay vì production, đặc biệt nếu các bản xem trước có thể được tạo từ pull request bởi các cộng tác viên bên ngoài hoặc ít tin cậy hơn.

Kích hoạt Preview Builds

Preview Builds hiện đang ở giai đoạn Public Beta cho các bản triển khai được kết nối thông qua tích hợp GitHub trên LangSmith Cloud.

Mở Deployment Settings, tìm Preview Builds và kích hoạt tính năng này. Chọn "Every PR" hoặc "Label only", cấu hình thời gian chờ (idle TTL) và giới hạn đồng thời (concurrency limit), sau đó lưu các thay đổi của bạn.

Pull request đủ điều kiện tiếp theo sẽ tạo một bản triển khai xem trước từ nhánh nguồn của nó. Hãy chia sẻ nó với những người đánh giá thay đổi, đẩy các bản cập nhật khi cần và thực hiện hợp nhất sau khi agent hoạt động đúng như mong đợi.

Đăng nhập hoặc đăng ký LangSmith để dùng thử Preview Builds | Đọc tài liệu hướng dẫn