LangChain hợp tác với Baseten Loops để huấn luyện mô hình tùy chỉnh cho LangSmith

LangChain phát triển các công cụ để xây dựng, đánh giá và triển khai các AI agent trên quy mô lớn. LangChain sử dụng Baseten Loops để huấn luyện các mô hình tùy chỉnh cho LangSmith Engine, một agent tích hợp sẵn trong nền tảng giúp người dùng tự động gỡ lỗi và cải thiện các agent của họ.

Sự hợp tác của chúng tôi với LangChain kết hợp kinh nghiệm xây dựng AI agent của họ với cơ sở hạ tầng phục vụ huấn luyện và suy luận mô hình của chúng tôi, cho phép LangChain làm chủ trí tuệ làm nền tảng cho các sản phẩm của họ.

Huấn luyện mô hình tùy chỉnh cho các tác vụ đặc thù của agent

Việc huấn luyện mô hình tùy chỉnh cho phép các đội ngũ định hình hành vi của agent xoay quanh một tác vụ cụ thể. Tinh chỉnh (fine-tuning) một mô hình mã nguồn mở lớn dựa trên các dấu vết (traces) của agent giúp chuyên biệt hóa nó cho các tác vụ khó trong LangSmith Engine, chẳng hạn như đọc một kho lưu trữ GitHub được kết nối để chẩn đoán nguyên nhân xảy ra sự cố, sau đó soạn thảo prompt hoặc thay đổi mã nguồn để đưa vào pull request.

Đối với các yêu cầu chuyên biệt hơn, chẳng hạn như phân loại các dấu vết theo chế độ lỗi và mức độ nghiêm trọng, hoặc ánh xạ chúng với các vấn đề đang mở, LangChain có thể dễ dàng thay đổi mô hình và huấn luyện một mô hình mã nguồn mở nhỏ hơn (như Qwen) được thiết kế riêng cho tác vụ đó.

Từ huấn luyện đến sản xuất với Baseten Loops

Baseten Loops cung cấp cơ sở hạ tầng được quản lý để tinh chỉnh mô hình thông qua API, với sự hỗ trợ cho tinh chỉnh có giám sát (supervised fine-tuning), học tăng cường (reinforcement learning) và các khối lượng công việc có ngữ cảnh dài (long-context workloads).

Loops cũng kết nối quá trình huấn luyện với nền tảng suy luận của Baseten. Các điểm kiểm tra (checkpoints) có thể được đánh giá trong quá trình huấn luyện và triển khai trực tiếp, mang đến cho các đội ngũ cách thức dễ dàng để thử nghiệm và đưa mô hình vào môi trường sản xuất, giúp tăng đáng kể tốc độ huấn luyện.

Các kỹ sư của chúng tôi vẫn tiếp tục làm việc chặt chẽ với đội ngũ của họ trong quá trình phát triển các quy trình huấn luyện.

Sự hợp tác của chúng tôi phản ánh mục tiêu chung là giúp các nhà phát triển biến dữ liệu ứng dụng thành những cải tiến trong hành vi của agent. LangChain mang đến các công cụ để hiểu và đánh giá agent. Baseten cung cấp cơ sở hạ tầng để huấn luyện các mô hình tùy chỉnh và đưa chúng vào môi trường sản xuất.

Tìm hiểu thêm về Baseten Loops.