Xây dựng AI Agent phân tích dữ liệu tự động với DeepAnalyze-8B trên GPU T4

Trong bài hướng dẫn này, chúng ta sẽ xây dựng một tác nhân (agent) khoa học dữ liệu tự động dựa trên DeepAnalyze-8B và vận hành nó. Chúng ta bắt đầu bằng việc chuẩn bị một môi trường chạy ổn định, cài đặt các thư viện học máy cần thiết và tải tokenizer cùng mô hình DeepAnalyze ở chế độ 4-bit để giữ cho quy trình làm việc khả thi trên bộ nhớ GPU hạn chế. Sau đó, chúng ta tạo một môi trường thực thi biệt lập (sandboxed) cho phép mô hình tạo mã Python, thực thi mã một cách an toàn, quan sát kết quả và tiếp tục phân tích trong một vòng lặp tác nhân. Cuối cùng, chúng ta cung cấp cho tác nhân một không gian làm việc thương mại điện tử đa tệp thực tế và để nó làm sạch, hợp nhất, phân tích, trực quan hóa và tóm tắt dữ liệu thành một báo cáo có cấu trúc đạt chuẩn chuyên gia phân tích.

Cài đặt các thư viện phụ thuộc cho môi trường chạy DeepAnalyze-8B

Chúng ta bắt đầu bằng việc chuẩn bị môi trường chạy Colab với các thư viện học máy cần thiết cho DeepAnalyze-8B. Chúng ta cài đặt các thư viện transformer, acceleration, quantization, tokenizer và spreadsheet mà không làm ảnh hưởng đến quy trình làm việc chung của notebook. Chúng ta cũng cố định phiên bản NumPy và khởi động lại môi trường chạy một lần để giữ cho môi trường sạch và ổn định cho lần thực thi tiếp theo.

Tải DeepAnalyze-8B ở chế độ 4-bit

Chúng ta nhập các thư viện chính, cấu hình mô hình DeepAnalyze-8B và xác minh rằng GPU đã sẵn sàng trong Colab. Chúng ta tải tokenizer và chuẩn bị lượng tử hóa 4-bit để mô hình có thể hoạt động thoải mái hơn trên GPU T4. Sau đó, chúng ta tải mô hình ở chế độ đánh giá và xác nhận mức sử dụng bộ nhớ GPU trước khi chuyển sang logic của tác nhân.

Xây dựng trình thực thi mã biệt lập (Sandboxed Code Executor)

Chúng ta định nghĩa một trình thực thi mã biệt lập cung cấp cho tác nhân một không gian tên Python bền vững để chạy mã đã tạo. Chúng ta thu thập các luồng đầu ra và lỗi tiêu chuẩn để mọi kết quả thực thi có thể được truyền ngược lại vào vòng lặp suy luận. Chúng ta cũng áp đặt giới hạn thời gian và cắt bớt các đầu ra quá dài để giữ cho quy trình tự động được kiểm soát và dễ đọc.

Triển khai vòng lặp tác nhân DeepAnalyze

Chúng ta triển khai vòng lặp tác nhân DeepAnalyze, thực hiện truyền phát các đầu ra của mô hình, trích xuất mã đã tạo và thực thi từng bước. Chúng ta cho phép mô hình luân phiên giữa suy luận, viết mã, phản hồi thực thi và trả lời cuối cùng thông qua các thẻ hành động đặc biệt. Chúng ta duy trì toàn bộ dấu vết hội thoại để tác nhân có thể tinh chỉnh phân tích của mình dựa trên các đầu ra và kết quả thực thi trước đó.

Vận hành không gian làm việc phân tích thương mại điện tử

Chúng ta tạo trình xây dựng câu lệnh (prompt builder), chuẩn bị một không gian làm việc thương mại điện tử mẫu và tạo các tệp giao dịch và khách hàng để phân tích. Chúng ta cung cấp cho tác nhân một hướng dẫn phân tích hoàn chỉnh yêu cầu nó làm sạch, hợp nhất, khám phá, trực quan hóa và tóm tắt tập dữ liệu. Cuối cùng, chúng ta chạy tác nhân, hiển thị báo cáo cuối cùng và kết xuất bất kỳ hình ảnh PNG nào được tạo ra trong quá trình phân tích tự động.

Kết luận

Tóm lại, chúng ta đã thấy cách DeepAnalyze-8B có thể được sử dụng không chỉ như một mô hình tạo văn bản đơn thuần: chúng ta biến nó thành một tác nhân phân tích dữ liệu lặp đi lặp lại, có khả năng suy luận trên các tệp, viết mã thực thi, kiểm tra đầu ra và đưa ra những thông tin chi tiết cuối cùng. Chúng ta giữ cho quy trình làm việc nhẹ nhàng trong khi vẫn bảo toàn mô hình tác nhân cốt lõi là hiểu nhiệm vụ, tạo mã, thực thi và tinh chỉnh phân tích dựa trên kết quả thực tế. Điều này cung cấp cho chúng ta nền tảng để xây dựng các notebook khoa học dữ liệu tự động, nơi mô hình không chỉ mô tả phân tích mà còn chủ động thực hiện nó và trả về cả kết quả trực quan lẫn báo cáo cuối cùng súc tích.

Hãy xem TOÀN BỘ MÃ NGUỒN với NOTEBOOK. Ngoài ra, đừng ngần ngại theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit 150k+ ML của chúng tôi và Đăng ký nhận Bản tin. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Cần hợp tác với chúng tôi để quảng bá GitHub Repo, Trang Hugging Face, Sản phẩm mới hoặc Hội thảo trực tuyến, v.v. của bạn? Hãy kết nối với chúng tôi.

Sana Hassan, thực tập sinh tư vấn tại Marktechpost và là sinh viên văn bằng kép tại IIT Madras, rất tâm huyết với việc ứng dụng công nghệ và AI để giải quyết các thách thức trong thế giới thực. Với sự quan tâm sâu sắc đến việc giải quyết các vấn đề thực tiễn, cô mang đến một góc nhìn mới mẻ về sự giao thoa giữa AI và các giải pháp trong đời sống.