AI Agent nên 'sống' bao lâu là tối ưu?

Mary, Mary, khá là ngang bướng, các agent của bạn sống được bao lâu?

Các sản phẩm mới như Grok Bot và những hệ thống meta-harness khác đang yêu cầu chúng ta tạo ra các agent. Vậy chúng nên tồn tại trong bao lâu?

Khi bạn thiết kế một agent lịch trình, phiên làm việc của nó nên kéo dài bao lâu? Nó nên duy trì hoạt động trong suốt năm năm bạn làm việc tại một công ty, hay nên thiết lập lại mỗi ngày?

Các mô hình ngày càng mạnh mẽ cám dỗ chúng ta xây dựng những phiên làm việc vĩnh viễn không bao giờ kết thúc. Nhưng các phiên làm việc kéo dài lâu ngày sẽ bị thoái hóa từ bên trong.

Khi các lượt hội thoại chồng chất, khả năng chú ý sẽ suy giảm. Các mô hình hiện đại dễ dàng phát hiện một sự kiện đơn lẻ trong một tài liệu dài. Nhưng nghiên cứu cho thấy ngay cả với các mô hình tiên tiến nhất, bộ nhớ của agent cũng giống như trí nhớ con người: nó suy giảm khi dung lượng tăng lên.1

Những mệnh lệnh tạm thời biến thành những bóng ma vĩnh viễn. Bạn bảo bot vào tháng Ba rằng: “Tuần này tôi bị cảm, hãy hủy các cuộc họp buổi sáng,” và đến tháng Mười Một, nó vẫn tiếp tục tránh các khung giờ buổi sáng đó.

Các phiên làm việc dài hạn cũng phá vỡ tính bảo mật. Một agent nắm giữ quyền đọc và ghi trong nhiều năm đối với hộp thư và lịch của bạn chẳng khác nào một cánh cửa mở toang. Một email hoặc lời mời họp độc hại có thể làm nhiễm độc cuộc hội thoại, âm thầm chiếm quyền điều khiển lịch trình của bạn nhiều tháng sau đó.2

Mô hình tối ưu rất đơn giản: hãy cho trợ lý hàng ngày của bạn vòng đời 24 giờ, và ủy quyền các tác vụ riêng lẻ cho những chuyên gia chuyên biệt.

Việc thiết lập lại hàng ngày phù hợp với cách con người thực sự làm việc. Trong ngày, trợ lý của bạn ghi nhớ ngữ cảnh tức thời: “Tôi sẽ đến muộn mười lăm phút,” hoặc “hãy để trống khung giờ từ hai đến ba giờ để chuẩn bị.” Vào lúc nửa đêm, cuộc hội thoại đang hoạt động sẽ được xóa sạch để ngày mai bắt đầu một cách mới mẻ.

Khi cần thực hiện công việc, điều phối viên hàng ngày sẽ chuyển giao nhiệm vụ cho một trợ lý chuyên biệt: một agent lịch để lên lịch trình, một agent email để soạn thảo phản hồi, hoặc một agent tin tức để tìm kiếm trên web. Mỗi trợ lý chỉ tồn tại trong ba mươi giây với các công cụ cụ thể mà nó cần, hoàn thành công việc rồi biến mất.3

Đối với điều phối viên hàng ngày, system prompt đóng vai trò như một người điều phối:

Đối với trợ lý lịch trình, system prompt là một bộ thực thi không trạng thái (stateless executor):

Trước khi phiên làm việc trong ngày bị xóa vào lúc nửa đêm, một quy trình tổng hợp nhanh sẽ được thực hiện. Một bộ tóm tắt ngoại tuyến (offline summarizer) sẽ xem xét lại cả ngày, lưu các tùy chọn lâu dài (“Tomasz thích các cuộc họp kéo dài ba mươi phút”) vào một ghi chú vĩnh viễn trên ổ đĩa, và loại bỏ phần còn lại của những cuộc trò chuyện hàng ngày.4

Liệu Grok Bot hay trợ lý trò chuyện của bạn có thực hiện chu kỳ ngủ này một cách tự động không?

Hiện tại thì chưa. Hầu hết các bot đều để các luồng hội thoại mở mãi mãi cho đến khi bạn nhấp vào “+ New Chat” hoặc quá trình nén ngữ cảnh (context compaction) âm thầm xóa đi các quy tắc của bạn.

Bài đồng dao nhắc về một khu vườn: những chiếc chuông bạc và vỏ sò, tất cả đều thẳng hàng. Những thứ tồn tại bền vững, theo một trật tự mà ai đó đã chọn. Câu trả lời cho một agent cũng vậy: hãy loại bỏ cuộc hội thoại; giữ lại các quy tắc trong một tệp tin để giữ cho agent và khu vườn của bạn luôn khỏe mạnh.

Amirali Ebrahimzadeh và Seyyed Muhammad Salili, “Not All Needles Are Found: How Fact Distribution and Prompting Shape Inference in Long-Context LLMs,” arXiv:2601.02023, tháng 1 năm 2026; Kelly Hong và cộng sự, “Context rot: How increasing input tokens impacts LLM performance,” Chroma Research, 2025. ↩︎

“Sleeper Memory Poisoning in LLM Agents,” arXiv:2605.15338, tháng 5 năm 2026. Chứng minh các cuộc tấn công nhiễm độc bộ nhớ liên phiên (cross-session) dai dẳng trong các trợ lý AI có trạng thái. ↩︎

Shiyang Chen, “Governance Decay: How Context Compaction Silently Erases Safety Constraints in Long-Horizon LLM Agents,” arXiv:2606.22528, tháng 6 năm 2026. Chứng minh rằng quá trình nén dữ liệu làm mất đi các quy tắc thường trực trong 30–59% các tập dữ liệu. ↩︎

Anthropic, “Dreams: Memory Consolidation,” bản xem trước nghiên cứu dreaming-2026-04-21, tháng 4 năm 2026; và khung làm việc agent có trạng thái Letta v2 (2026). ↩︎