Sự tiến hóa của 'Agent Harness': Khi AI dần thay thế vai trò điều khiển của con người

Khoảng thời gian quanh dịp Giáng sinh năm 2025, các kỹ sư AI nhận thấy một sự thay đổi ở các agent. Chúng bắt đầu hoạt động hiệu quả! Thật khó để xác định chính xác lý do tại sao. Có lẽ cuối cùng chúng ta cũng có thời gian nghỉ lễ để thử nghiệm các agent mới nhất với những mô hình mới nhất. Có lẽ các mô hình đã vượt qua một ngưỡng năng lực nào đó. Hoặc có lẽ các lớp bao bọc (wrappers) xung quanh mô hình đã trở nên hoàn thiện hơn.

Trong bài viết này, tôi sẽ lập luận rằng đó là sự hội tụ của hai yếu tố sau. Mô hình và bộ khung (harness) cùng cải thiện, và rồi các đường cong cải thiện của chúng giao nhau tại đúng thời điểm. Động lực đó giúp giải thích những gì sẽ xảy ra tiếp theo: các mô hình liên tục hấp thụ bộ khung vào trọng số của chúng, các kỹ sư liên tục xóa bỏ những gì đã được hấp thụ, và thứ còn lại chính là một bộ khung dành cho sự chú ý của con người thay vì dành cho mô hình.

Lukasz Kaiser, một trong những người phát minh ra Transformer, đã nói trên chương trình “Unsupervised Learning” vào tháng 6 rằng:

“Sự thay đổi vào mùa đông năm ngoái, Giáng sinh năm ngoái — hơi khó để xác định chính xác. Ý tôi là, bộ khung đã thay đổi, quá trình hậu huấn luyện (post-training) thay đổi một chút và sau đó các mô hình tiền huấn luyện mới xuất hiện… nhưng cảm giác như đó là một bước nhảy vọt lớn mà không dễ để chỉ ra điều gì đã tạo nên nó.”

Câu trả lời cho câu hỏi “Chuyện gì đã xảy ra?” không chỉ nằm ở trọng số của mô hình. Nó nằm ở hệ thống đã phát triển xung quanh các trọng số đó.

Câu trả lời nằm ở bộ khung agent (agent harness).

Hãy nhớ lại tháng 11 năm 2022, khi ChatGPT là công cụ AI tiên tiến nhất. Khả năng duy nhất mà nó có là dự đoán token tiếp theo và một chút Học tăng cường từ phản hồi của con người (RLHF) cho phép nó hành động như một trợ lý hữu ích. Không công cụ, không tìm kiếm và không lập luận.

ChatGPT nguyên bản bị giới hạn trong dữ liệu huấn luyện và câu lệnh (prompt) mà bạn gửi cho nó. Không hơn, không kém. Nó giống như một bộ não trong bình chứa.

Bộ khung agent là cách để LLM thoát khỏi sự giam cầm đó và tương tác với không gian thông tin kỹ thuật số thực tế.

Bộ khung agent là tất cả mọi thứ ngoài trọng số mô hình giúp agent hoạt động. Đó là môi trường, công cụ, ngữ cảnh và các rào cản bảo vệ (guardrails) bao quanh mô hình. Nếu không có bộ khung, mô hình chỉ là một bộ não trong bình chứa. Nó có thể thực hiện một hành động nhận thức, nhưng cần bộ khung để hiện thực hóa quyết định đó trong không gian kỹ thuật số thực tế.

Bộ khung giống như việc cung cấp một cơ thể cho trí tuệ của mô hình. Với bộ khung, mô hình có thể nhận thức (ngữ cảnh), hành động (công cụ), lưu trữ thông tin (bộ nhớ và nén dữ liệu) và thực thi các ranh giới của nó (quyền hạn và rào cản bảo vệ).

Hai đường cong chạy xuyên suốt quá trình tiến hóa của mô hình và bộ khung. Đó là những gì bộ khung yêu cầu ở mô hình, và những gì mô hình có thể thực hiện trong thực tế.

Khoảng cách giữa hai đường cong này tương đương với hiệu quả của một agent, và việc thu hẹp khoảng cách đó chính là điều tôi cho rằng đã dẫn đến sự cải thiện rõ rệt ở các agent mà Lukasz Kaiser đã đề cập.

Đây là cách khoảng cách đó được thu hẹp, theo từng giai đoạn:

ReAct, “Bộ khung trên lý thuyết” (Tháng 10/2022): ReAct là một kỹ thuật gợi ý (prompting) để khiến các mô hình lập luận thông qua câu lệnh. Đó là vòng lặp agent trên lý thuyết, nằm bên ngoài trọng số mô hình. Nó định nghĩa ý tưởng về một “vòng lặp agent” nơi mô hình lập luận -> hành động -> quan sát -> lặp lại. Một lần nữa, vòng lặp ReAct chỉ tồn tại như một phương pháp gợi ý. Gợi ý là phương pháp lập luận duy nhất tồn tại vào thời điểm đó và không ai gọi nó là “bộ khung”. Toolformer (Meta, tháng 2/2023), cùng mùa đông năm đó, gợi ý rằng việc sử dụng công cụ có thể được huấn luyện thay vì chỉ gợi ý. Nó hơi giống ý tưởng của Alan Turing về máy tính trước khi nó được hiện thực hóa trên một nền tảng vật lý. Một ý tưởng mạnh mẽ chỉ được biểu hiện sau đó. (ReAct ra đời trước ChatGPT một tháng — tháng 10/2022 so với tháng 11/2022). Cả hai đường cong đều gần bằng 0 tại thời điểm này. Khoảng cách rất nhỏ vì chúng ta chỉ mới bắt đầu.

AutoGPT/BabyAGI, “Sự tự chủ sớm” (Mùa xuân 2023): Với AutoGPT/BabyAGI, đường cong bộ khung vượt lên trước đường cong năng lực mô hình. Cả hai trao cho mô hình sự tự chủ hoàn toàn, yêu cầu mô hình hành động như một “nhân viên tự chủ”, nhưng các mô hình tại thời điểm này vẫn chỉ là những bộ dự đoán token tiếp theo thiếu ổn định. Một vòng lặp không làm tăng năng lực của mô hình. Một vòng lặp khuếch đại năng lực mà mô hình vốn có, và dưới một ngưỡng nhất định, vòng lặp sẽ khuếch đại sai sót thay vì độ tin cậy. Hãy xem xét sức mạnh của lãi kép theo hướng tiêu cực: độ tin cậy 95% mỗi bước trong một tác vụ 20 bước dẫn đến tỷ lệ thành công trung bình khoảng 36%. Bộ khung giao cho mô hình một nhiệm vụ mà nó không có cơ hội thực tế nào để hoàn thành. Đây là nơi khoảng cách rộng nhất và 18 tháng tiếp theo là sự phản ứng và nỗ lực để thu hẹp khoảng cách đó.

Cursor/Copilot, “Rút lui về mô hình con người trong vòng lặp” (2023 - 2024): Các IDE hỗ trợ AI đầu tiên nhận ra chế độ thất bại của việc trao cho mô hình quá nhiều quyền tự chủ. Họ thu hẹp khoảng cách bằng cách kéo đường cong bộ khung xuống dưới đường cong mô hình. Đừng trao vòng lặp trực tiếp cho mô hình; hãy trao vòng lặp cho con người và trao quyền cho con người điều phối vòng lặp trong khi mô hình giúp con người tăng tốc. Phiên bản đầu tiên của Devin cố gắng trao lại quyền tự chủ cho mô hình. Một thử nghiệm từ nhóm tại Answer.AI cho thấy điều đó vẫn còn quá sớm, với tỷ lệ thành công khoảng 15%. Đó là bằng chứng cho thấy việc các IDE rút lui khỏi sự tự chủ hoàn toàn không phải là hèn nhát, mà là bước đi đúng đắn. Tuy nhiên, trong khi chiến thuật phổ biến là kéo bộ khung xuống dưới mô hình, các mô hình vẫn tiếp tục cải thiện. Gần cuối năm 2024, với sự ra đời của o1 — mô hình lập luận đầu tiên — lần đầu tiên khoảng cách bị đảo ngược và chúng ta bắt đầu thấy những dấu hiệu đầu tiên của sự dư thừa năng lực mô hình.

Claude Code, “Các đường cong giao nhau” (Tháng 2/2025): Sự đảo ngược vào cuối năm 2024 tạo ra một cơ hội mà ai đó phải nắm bắt: nếu mô hình hiện đã vượt trước bộ khung, thì một bộ khung cố tình kìm hãm mô hình sẽ là sự lãng phí năng lực. Claude Code là agent lập trình đầu tiên được xây dựng để nắm bắt cơ hội đó. Nó từ bỏ IDE để chuyển sang terminal, cung cấp cho mô hình quyền truy cập bash và đọc/ghi tệp, đồng thời thay thế nhu cầu phê duyệt của con người đối với mọi thay đổi bằng các quy tắc cấp phép. Mô hình được trao lại vòng lặp, và lần này nó hiểu nhiệm vụ. Boris Cherny và nhóm đã xây dựng Claude Code với năng lực của mô hình tiếp theo trong tâm trí, chứ không phải mô hình hiện tại. Nó thành công vang dội không phải vì là sản phẩm đầu tiên trao quyền tự chủ cho mô hình, mà vì là sản phẩm đầu tiên làm điều đó vào đúng thời điểm. Đó là điểm giao thoa nơi mô hình đã trở nên đủ tin cậy để thành công với sự tự chủ. Claude Code đạt mức doanh thu định kỳ hàng năm (ARR) khoảng 1 tỷ USD trong vòng sáu tháng, tất cả là nhờ Anthropic đã nắm bắt được cơ hội khi các đường cong bắt đầu gặp nhau.

Điều xảy ra tiếp theo là các đường cong không chỉ gặp nhau, chúng bắt đầu đan xen vào nhau.

Ngày nay, bộ khung rất quan trọng, và theo cách chúng ta có thể đo lường được. Harness-Bench đã chạy cùng một mô hình trên cùng 106 tác vụ trong các bộ khung khác nhau, và điểm số dao động từ 52,4 đến 76,2: chênh lệch 23,8 điểm mà không có bất kỳ thay đổi nào đối với mô hình. Một nửa của agent chính là bộ khung.

OpenAI đã đạt được kết quả tương tự trên ARC-AGI-3 với các thay đổi về bộ khung. Chỉ bằng cách thêm khả năng lập luận và nén dữ liệu được lưu giữ, điểm số ARC-AGI-3 của GPT-5.6 Sol đã tăng gấp ba lần từ 13,3% lên 38,3%.

Điều đang diễn ra bên dưới là Học tăng cường (RL) đã chuyển vào bên trong bộ khung. Từ thông báo phát hành codex-1 của OpenAI vào tháng 5 năm 2025: “codex-1 được huấn luyện bằng học tăng cường trên các tác vụ lập trình thực tế trong nhiều môi trường khác nhau.”

Hai đường cong hợp nhất và bắt đầu đan xen như một hệ thống thống nhất.

Đây là giấc mơ của Toolformer đang hiện thực hóa. Thay vì một công cụ được gợi ý từ bên ngoài, giờ đây việc gọi công cụ được huấn luyện từ bên trong môi trường của mô hình.

Sau đó, khi các mô hình được huấn luyện trong môi trường của bộ khung, chúng bắt đầu hấp thụ các năng lực của bộ khung vào trọng số mô hình, ví dụ như học cách tự nén dữ liệu với kiến thức về cửa sổ ngữ cảnh của chính chúng.

Ra mắt GPT-5.1-Codex-Max:

“Mô hình đầu tiên được huấn luyện nguyên bản để vận hành trên nhiều cửa sổ ngữ cảnh thông qua nén dữ liệu.”

Khi các mô hình hấp thụ các năng lực của bộ khung, bộ khung có thể loại bỏ các lớp giàn giáo. Đó là sản xuất bằng cách cắt giảm. Thariq Shihipar từ Anthropic cho biết nhóm gần đây đã xóa 80% câu lệnh hệ thống (system prompt) của Claude Code.

Thước đo tốc độ tiến hóa của bộ khung agent là việc bạn có thể xóa bao nhiêu phần của bộ khung trong khi vẫn duy trì cùng mức năng lực. Đây là tương lai mà chúng ta cần hướng tới với tư cách là các kỹ sư AI.

Vậy thì, đây là vòng lặp của sự tiến hóa mô hình / bộ khung: huấn luyện -> hấp thụ -> loại bỏ -> lặp lại. Mô hình leo lên nấc thang tiếp theo của những gì nó chưa thể làm được.

Bước nhảy vọt mà Kaiser chỉ ra rất khó xác định vì nó không phải là một sự kiện rời rạc. Một bước nhảy vọt trong tiền huấn luyện rất dễ nhận thấy vì bạn có thể trình bày nó trong thẻ mô hình (model card). Một bước nhảy vọt trong sự đồng tiến hóa giữa mô hình và bộ khung thì ít rõ ràng hơn, vì không có tài liệu nào ghi lại quá trình tiến hóa đó. Đó là câu trả lời cho bước nhảy vọt vào mùa đông năm ngoái: nó xảy ra trong không gian giữa mô hình và bộ khung khi chúng làm việc cùng nhau.

Chúng ta cần đặt câu hỏi: nếu mọi năng lực của bộ khung cuối cùng sẽ được hấp thụ vào mô hình, thì điều đó để lại cho chúng ta những gì?

Hãy tiếp tục xóa bỏ mọi thứ mà mô hình có thể hấp thụ. Hãy tưởng tượng agent của bạn trông như thế nào khi kết thúc quá trình đó. Bạn còn lại gì trong tay khi đã xóa bỏ mọi thứ?

Trọng số mô hình sẽ hấp thụ những gì tiếp theo? Điều phối đa agent, lựa chọn công cụ, bộ nhớ... chỉ là một vài khả năng. Các nhà nghiên cứu đang xây dựng các bộ khung tự cải thiện, bản thân chúng có thể được huấn luyện theo cách tương tự như các mô hình.

Những gì còn lại sau quá trình xóa bỏ và hấp thụ này là các năng lực agent lấy con người làm trung tâm. Những thứ như quyền hạn, danh tính, sự tin tưởng và tính minh bạch. Một mô hình hấp thụ các quyền hạn vào chính nó đã làm tan biến các quyền hạn đó. Sự hấp thụ không kết thúc bộ khung. Sự hấp thụ làm đảo ngược bộ khung.