Google Cloud hướng dẫn chạy AI Agent 24/7 trên Cloud Run với chi phí chỉ 5,7 USD/tháng

Làm thế nào để chạy một AI agent tự động trên đám mây 24/7 chỉ với 5,70 đô la một tháng?

Gần đây tôi muốn xây dựng một trình chạy nền (background worker) với bộ nhớ đĩa bền vững và một bảng điều khiển web tức thời, nhưng tôi không muốn đau đầu với việc quản lý máy ảo hay phải trả hóa đơn hàng tháng đắt đỏ.

Nếu bạn đang xây dựng các agent chạy dài hạn, bạn chắc hẳn hiểu rõ tình thế tiến thoái lưỡng nan này khi lưu trữ trên đám mây:

Năm ngoái, tôi đã xây dựng một Trend Spotter đa agent với ADK. Nó hoạt động tốt, nhưng tôi muốn làm cho nó hoàn toàn tự động: một agent chạy liên tục, dài hạn, có khả năng quét và tóm tắt các nguồn cấp dữ liệu công nghệ ở chế độ nền mà không cần kích hoạt thủ công hay tốn chi phí lưu trữ cao.

Primitive "Cloud Run instances" mới của Google Cloud giải quyết chính xác vấn đề này. Nó cung cấp cho bạn một container luôn bật, chạy 24/7, với chi phí 5,70 đô la mỗi tháng trên CPU chia sẻ, cung cấp một HTTPS endpoint miễn phí và cho phép bạn gắn bộ nhớ đám mây như một ổ đĩa cục bộ thông thường.

Dưới đây là cách xây dựng và triển khai một agent chạy dài hạn ở môi trường production với thiết lập này (bạn có thể làm theo với mã nguồn đầy đủ trong repo).

Chúng ta sẽ xây dựng những gì?

Tôi muốn cập nhật những gì đang diễn ra trong lĩnh vực AI và kỹ thuật agent. Nhưng thay vì phải mở thủ công 20 tab trình duyệt trên các trang web khác nhau mỗi sáng, tôi muốn xây dựng một agent chạy dài hạn của riêng mình để cập nhật tin tức gần đây bất cứ khi nào tôi muốn.

Đây là những gì agent thực hiện:

Hệ thống hoạt động như thế nào

Toàn bộ ứng dụng chạy bên trong một Cloud Run instance duy nhất:

Bạn có thể xây dựng những gì khác với một agent chạy dài hạn?

Một agent tóm tắt tin tức công nghệ chỉ là một ví dụ. Vì các Cloud Run instances cung cấp cho bạn một trình chạy nền luôn bật, một web endpoint miễn phí và bộ nhớ đĩa cục bộ an toàn, bạn có thể sử dụng chính mô hình này cho nhiều quy trình làm việc của nhà phát triển:

Tại sao Cloud Run instances lại tuyệt vời cho các agent

Các nền tảng serverless tiêu chuẩn được thiết kế cho các yêu cầu web nhanh. Chúng chờ người dùng nhấp vào nút, chạy trong một giây rồi tắt.

Các agent chạy nền dài hạn có những nhu cầu khác biệt:

Với một instance, bạn có được sự đơn giản của serverless cùng với sự ổn định của một máy ảo (VM). Vì instance của bạn luôn ở trạng thái "nóng" với một HTTPS endpoint công khai, nó dễ dàng xử lý ba kiểu kích hoạt trong cùng một container:

Khi nào KHÔNG nên sử dụng cách này

Cloud Run instances rất tuyệt vời cho các agent chạy nền đơn lẻ. Bạn nên chọn một công cụ khác nếu bạn cần:

Kiến trúc thay thế: Job + Service tách rời

Thay vì một instance duy nhất, bạn có thể xây dựng một hệ thống hướng sự kiện (event-driven): Cloud Scheduler kích hoạt một Cloud Run Job để thăm dò (polling), trong khi một Cloud Run Service có khả năng scale-to-zero sẽ lưu trữ bảng điều khiển và lắng nghe các webhook.

Mặc dù cách tiếp cận tách rời này giúp giảm chi phí tính toán xuống gần như 0,00 đô la trong gói miễn phí, nhưng bạn sẽ mất đi sự đơn giản của một container duy nhất. Bạn buộc phải quản lý nhiều dịch vụ đám mây và hàng đợi tin nhắn (để ngăn các webhook đồng thời làm hỏng trạng thái của bạn), đồng thời phải chấp nhận hiện tượng "cold start" trên bảng điều khiển web của mình.

Triển khai agent chạy dài hạn của bạn trong 6 bước đơn giản

Bạn có thể triển khai thiết lập này lên Google Cloud trong khoảng năm phút.

1. Bật các dịch vụ đám mây

Chuyển sang chế độ toàn màn hình Thoát chế độ toàn màn hình

Lưu ý: Cloud Run instances không khả dụng ở mọi khu vực. Vui lòng chọn một khu vực được hỗ trợ gần bạn từ trang vị trí của Cloud Run instances.

2. Tạo một storage bucket cho dữ liệu của bạn

Chuyển sang chế độ toàn màn hình Thoát chế độ toàn màn hình

3. Xây dựng container của bạn

Chuyển sang chế độ toàn màn hình Thoát chế độ toàn màn hình

4. Tạo một tài khoản dịch vụ (service account)

Chuyển sang chế độ toàn màn hình Thoát chế độ toàn màn hình

5. Lưu trữ khóa API của bạn một cách an toàn