Lilian Weng tổng hợp 35 nghiên cứu về kỹ thuật điều khiển mô hình (Harness Engineering)

Xin chúc mừng Meta Superintelligence vì đã sở hữu 2/3 mô hình hình ảnh/video hàng đầu thế giới! Đây lẽ ra đã là một ứng cử viên cho tiêu đề chính, nhưng đáng tiếc là đó gần như là tất cả thông tin chi tiết mà chúng ta có về Muse Image/Video - không có bài báo khoa học, không có bất kỳ chi tiết kỹ thuật nào. Dù vậy, điều này vẫn vượt qua các mô hình Microsoft MAI của tháng trước, thật đáng mừng.

Chúng tôi vốn là những người hâm mộ Lilian Weng, vì vậy chúng tôi luôn chú ý mỗi khi cô ấy tung ra một bản tóm tắt nghiên cứu mới, điều này càng hiếm hoi hơn kể từ khi cô ấy trở thành đồng sáng lập tại Thinky. Hôm nay, cô ấy đang suy ngẫm về mối quan hệ giữa các "harness" (khung điều khiển/công cụ hỗ trợ) và RSI (Recursive Self-Improvement - Tự cải thiện đệ quy):

Lilian Weng@lilianweng

bài viết mới về kỹ thuật harness cho việc AI tự cải thiện: lilianweng.github.io/posts/2026-07-… Thật khó để dự đoán tương lai của RSI sẽ phụ thuộc vào các harness đến mức nào. Nhiều khả năng kỹ thuật harness sẽ phát triển theo hướng tự cải thiện và cho phép tự động hóa nghiên cứu, từ đó trở nên thông minh hơn.

lilianweng.github.io

Kỹ thuật Harness cho việc Tự cải thiện

5:58 Sáng · 7 tháng 7, 2026 · 405K Lượt xem

72 Phản hồi · 534 Lượt đăng lại · 3.89K Lượt thích

Mặc dù chúng tôi đã từng viết về việc ngay cả Greg Brockman hiện cũng đang âm thầm ủng hộ kỹ thuật agent/harness, nhưng thật mới mẻ khi một nhà tư tưởng được kính trọng và là đồng sáng lập neolab như Lilian cũng đồng tình rằng: “Ngay cả khi nhiều cải tiến về harness cuối cùng được tích hợp vào mô hình cốt lõi, nhu cầu xác định mục tiêu và ngữ cảnh sẽ không bao giờ biến mất.”

Bài viết của cô ấy phân tích các xu hướng thiết kế harness đã được kiểm chứng mà mọi người nên biết, sau đó tóm tắt các tài liệu về tối ưu hóa harness, đáng chú ý nhất là từ bài báo ACE nổi tiếng cho đến các xu hướng gần đây hơn như Meta-Harnesses, những thứ mà chúng tôi đã đề cập một cách không chính thức trên AINews.

Điều này chắc chắn cũng gợi ý về những gì Thinky đang suy nghĩ, ngoài các Mô hình Tương tác (Interaction Models).

Tin tức AI từ 6/7/2026 - 7/7/2026. Chúng tôi đã kiểm tra 12 subreddit, 544 tài khoản Twitter và không có thêm thông tin nào từ Discord. Trang web của AINews cho phép bạn tìm kiếm tất cả các số báo trước đây. Xin nhắc lại, AINews hiện là một phần của Latent Space. Bạn có thể chọn nhận/hủy nhận email theo tần suất!

Sản phẩm Agent, Harness và Quy trình làm việc dài hạn

Anthropic mở rộng trải nghiệm người dùng (UX) “background agent” trên Claude: Sản phẩm ra mắt có mức độ tương tác lớn nhất là Claude Cowork trên thiết bị di động và web, định vị Claude như một đồng nghiệp chạy nền thực hiện tác vụ thay vì là một giao diện trò chuyện (chat UI) ở tiền cảnh. Các bài viết liên quan cho thấy sự hội tụ sản phẩm xung quanh một tab trang chủ chung và sự tích hợp chặt chẽ hơn giữa Chat/Cowork từ @mikeyk. Ngoài ra, Anthropic đã gia hạn quyền truy cập Claude Fable 5 trên các gói trả phí đến ngày 12 tháng 7 trong một thông báo có mức độ tương tác cao từ @claudeai, mặc dù nhiều người dùng lưu ý về thời điểm khá bất tiện so với các giới hạn hàng tuần trong phản hồi từ @kimmonismus và những người khác.

Kỹ thuật harness ngày càng trở thành trọng tâm của thiết kế agent: Bài viết mới của Lilian Weng được trích dẫn rộng rãi như một cách định hình lại việc tự cải thiện đệ quy xung quanh harness, thay vì tự sửa đổi trọng số trực tiếp; bản tóm tắt của Sakana kết nối điều này với The AI Scientist, ShinkaEvolve và Darwin Gödel Machine trong chuỗi bài của họ. LangChain cũng lặp lại sự thay đổi tương tự với khóa học Deep Agents mới và một dự án harness mã nguồn mở trong các bài viết từ @LangChain và @hwchase17. Google cũng đang thương mại hóa hướng đi này: Gemini API Managed Agents đã bổ sung khả năng thực thi nền, máy chủ MCP từ xa, gọi hàm tùy chỉnh và làm mới thông tin xác thực trong các bài viết từ @_philschmid và @OfficialLoganK.

Hạ tầng agent thực tế ngày càng trở nên chuyên biệt: Có một số cập nhật đáng chú ý dành cho người vận hành: Codex Mobile iOS đã thêm quản lý tác vụ, diff được lọc, đăng nhập SSH key, so sánh nhánh và luồng đính kèm trong các bài viết từ @Dimillian và @reach_vb; Hermes Agent đã thêm trình quản lý bí mật có thể cắm (pluggable) cùng với tích hợp 1Password gốc và xuất phiên/tập dữ liệu sang các định dạng bao gồm cả kho lưu trữ Hugging Face riêng tư trong các chuỗi bài của @Teknium; Weaviate 1.38 đã đưa máy chủ MCP của mình lên GA với quyền truy cập ghi được kiểm soát thời gian chạy, đáng chú ý là cho phép bật MCP_SERVER_WRITE_ACCESS_ENABLED trực tiếp mà không cần khởi động lại trong bài viết của @victorialslocum. Một mô hình thử nghiệm hơn đến từ @omarsar0, sử dụng máy chủ Dial MCP để các agent có thể leo thang quyết định thông qua cuộc gọi điện thoại/SMS/iMessage nhằm kiểm soát con người trong vòng lặp (human-in-the-loop).

Phát hành Mô hình và Đa phương thức: Âm thanh, Giọng nói, Robot và Tạo nội dung truyền thông

Muse Image/Muse Video của Meta thúc đẩy tạo nội dung agentic trong truyền thông: Meta Superintelligence Labs đã ra mắt Muse Image và giới thiệu trước Muse Video trong các thông báo từ @AIatMeta, @alexandr_wang và @_tim_brooks. Điểm kỹ thuật đáng chú ý không chỉ là chất lượng hình ảnh, mà là một vòng lặp tạo nội dung mang tính agentic rõ ràng: lập kế hoạch, tìm kiếm web, sử dụng công cụ, thực thi mã và tự tinh chỉnh trước khi kết xuất. Meta cũng cho biết hiệu suất được cải thiện nhờ tính toán thời gian thử nghiệm (test-time compute) được mở rộng, và hành vi tự tinh chỉnh xuất hiện trong quá trình RL thay vì được viết kịch bản thủ công trong bản cập nhật này. Trên các bảng đánh giá công khai, Muse Image nhanh chóng đạt vị trí thứ 2 trên Image Arena sau GPT Image 2 trong bảng xếp hạng của Arena, trong khi Muse Video ra mắt ở vị trí thứ 3 trên Video Arena trong một bài đăng khác của Arena.

NVIDIA và Cohere đều tung ra các bản phát hành âm thanh mạnh mẽ: NVIDIA đã phát hành Audex, một mô hình MoE 30B tham số / 3B hoạt động với ngữ cảnh 1M cho công việc kết hợp văn bản + âm thanh, được tóm tắt bởi @HuggingPapers và mô tả chi tiết hơn bởi @_weiping. Tuyên bố cốt lõi của mô hình là bảo toàn trí tuệ văn bản trong khi bổ sung khả năng tạo và hiểu âm thanh rộng rãi thông qua một xương sống MoE duy nhất. Cohere đã ra mắt Cohere Transcribe Arabic, được mô tả là mô hình ASR tiếng Ả Rập mã nguồn mở chính xác nhất, theo giấy phép Apache 2.0, với trọng tâm là các phương ngữ, chuyển đổi mã và tiếng Anh có giọng Ả Rập trong các bài viết từ @cohere và @JayAlammar.

Robot mã nguồn mở tiếp tục hợp nhất xung quanh Hugging Face + NVIDIA: NVIDIA đã mở rộng ngăn xếp robot của mình vào hệ sinh thái HF bằng cách đưa GR00T 1.7 và Isaac Teleop vào LeRobot, nhắm đến các quy trình làm việc robot hình người mã nguồn mở, trong thông báo và hướng dẫn tích hợp của @NVIDIARobotics. Về phía robot hiện thân (embodied), UMA đã cho thấy một câu chuyện robot toàn diện mạnh mẽ: @RemiCadene mô tả một nguyên mẫu được xây dựng bởi một nhóm nhỏ trong 9 tháng, trong khi màn ra mắt Northstar và ghi chú an toàn của @psermanet nhấn mạnh vào phần cứng/phần mềm tích hợp theo chiều dọc cho các robot đáng tin cậy.

Kỹ thuật Đào tạo, Suy luận và Hậu đào tạo

“Antidoom” của Liquid AI nhắm trực tiếp vào các chế độ lỗi vòng lặp suy luận: Một trong những bản phát hành kỹ thuật rõ ràng nhất trong ngày là Antidoom của Liquid AI, một phương pháp đào tạo mã nguồn mở nhằm giảm thiểu các vòng lặp "doom" nơi các mô hình suy luận nhỏ lặp lại các token cho đến khi cạn kiệt ngữ cảnh. Mức giảm được báo cáo là rất đáng kể: LFM2.5-2.6B từ 10.2% → 1.4% và Qwen3.5-4B từ 22.9% → 1% dưới lấy mẫu tham lam (greedy sampling), với sự cải thiện trong các đánh giá hạ nguồn. Phương pháp này, FTPO (Final Token Preference Optimization), dán nhãn lại token kích hoạt vòng lặp và phân phối lại xác suất cho các lựa chọn thay thế, được tóm tắt tốt bởi @helloiamleonie và @LiorOnAI. Đây là một ví dụ điển hình về xu hướng gần đây của lĩnh vực này: loại bỏ các chế độ lỗi cụ thể thay vì chỉ mở rộng quy mô tham số.

Hiệu quả suy luận và nén vẫn là một biên giới lớn: Công việc nén Puzzle-75B-A9B của NVIDIA đã thu hút sự chú ý mạnh mẽ thông qua @omarsar0: nén một mô hình cha MoE lai trong khi vẫn bảo toàn chất lượng suy luận, lập trình, ngữ cảnh dài và agentic, với thông lượng máy chủ tăng khoảng 2 lần và khả năng đồng thời ngữ cảnh 1M trên H100 tăng từ 1 yêu cầu lên 8. Về phía công cụ, Nsight Python 1.0 đã ra mắt trong bài viết của @HagedornBastian, giúp việc phân tích hiệu suất GPU có thể lập trình được bằng Python. Unsloth cũng đã xuất xưởng các GGUF cho DeepSeek-V4-Flash, cộng với xuất sang NVFP4/FP8 và tăng tốc cho GRPO và MoE trong bản cập nhật của @danielhanchen.

Agent RL và xác minh đang trở nên chuyên biệt hơn: @cwolferesearch nhấn mạnh cách chuẩn hóa kiểu GRPO đang được điều chỉnh cho RL agentic ở cấp độ tác vụ hoặc môi trường để xử lý phương sai phần thưởng cao hơn trong các môi trường đa lượt. Ngoài ra, @omarsar0 đã gắn cờ một bài báo về trình xác minh không cần đào tạo từ Stanford/NVIDIA/Berkeley, đọc các điểm số liên tục được hiệu chuẩn từ logit của token tính điểm, đạt được những con số mạnh mẽ trên Terminal-Bench V2, SWE-Bench Verified, RoboRewardBench và MedAgentBench, cho thấy xác minh đang trở thành một trục mở rộng độc lập.

Khả năng diễn giải, Nội bộ mô hình và Cuộc tranh luận “J-Space”

Công trình J-space của Anthropic thống trị cuộc thảo luận về khả năng diễn giải, nhưng cũng vấp phải sự chỉ trích gay gắt: Cộng đồng chia rẽ giữa việc coi công trình này là phân tích cơ học hữu ích và phản đối việc đóng khung ý thức. Những lời chỉ trích mạnh mẽ đến từ @danburonline, @paul_cal và @scaling01, những người lập luận rằng các vector mang tính nhân quả chủ yếu do cách xây dựng theo định nghĩa Jacobian-lens. Một tài liệu tham khảo lịch sử hữu ích đến từ @jacobandreas, hướng độc giả quay lại bài báo gốc về Jacobian lenses.

Điểm mấu chốt kỹ thuật mạnh mẽ hơn là cấu trúc liên mô hình, không phải thuật hùng biện về ý thức: @eliebakouch đã tính toán độ tương đồng CKA trên hình học J-lens qua 38 mô hình mở và tìm thấy sự tổ chức lớp/độ sâu đáng ngạc nhiên, ngay cả giữa các gia đình không liên quan như Llama và OLMo. Anthropic và Neuronpedia cũng đã phát hành trọng số J-lens cho các mô hình mở, được ghi nhận trong bản cập nhật này. Song song đó, Goodfire đã giới thiệu Block-Sparse Featurizers cho các khái niệm đa chiều trong các kích hoạt, lập luận rằng nhiều khái niệm thị giác vốn là các khối 2–4 chiều thay vì các hướng đơn lẻ, trong chuỗi bài của họ.

Điểm chuẩn, Đánh giá và Hệ thống chuyên biệt theo lĩnh vực

Các điểm chuẩn về agent và pháp lý tiếp tục phơi bày khoảng cách giữa “vượt qua nhiều tiêu chí” và “giải quyết hoàn toàn công việc thực tế”: Agent Arena đặt Claude Sonnet 5 (Thinking) ở vị trí thứ 6, với tín hiệu mạnh nhất về sự thành công của tác vụ đã xác nhận và việc sử dụng bash, nhưng vẫn còn sự không chắc chắn về khả năng điều khiển (steerability). Artificial Analysis đã ra mắt Harvey LAB-AA, một điểm chuẩn agent pháp lý trên 120 tác vụ pháp lý riêng tư qua 24 lĩnh vực thực hành, nơi Claude Fable 5 dẫn đầu với tỷ lệ vượt qua 14.2%; Claude Opus 4.8 và GLM-5.2 hòa nhau ở mức 7.5%, với GLM đạt được điều đó với chi phí chỉ bằng ~6% mỗi tác vụ của Fable trong bản phát hành của họ. Thông điệp lớn là các mô hình có thể đáp ứng nhiều mục tiêu đánh giá riêng lẻ nhưng vẫn thất bại trong việc tạo ra các kết quả cuối cùng có thể chấp nhận được.

Tự động hóa nghiên cứu và các hệ thống chuyên biệt theo lĩnh vực đang mở rộng: Google đã quảng bá Experience AI Scientist, một hệ thống đa agent cho các quy trình làm việc khoa học từ đầu đến cuối, trong bài đăng ICML này. DeepMind cũng đã ra mắt Predicting the Past, đặt Gemini vào nền tảng Aeneas và Ithaca để phân tích lịch sử Hy Lạp/La Mã thông qua các tương tác bằng tiếng Anh đơn giản, trong chuỗi bài của họ. Về thương mại hóa AI pháp lý, Norm Ai đã công bố vòng gọi vốn Series C trị giá 120 triệu USD với định giá 1.2 tỷ USD và mô tả một thiết lập “agentic law” toàn diện bao gồm phần mềm cộng với một công ty luật AI-native trong bài viết của @johnjnay.

Các tweet hàng đầu (theo mức độ tương tác)

Truy cập Claude / ra mắt sản phẩm: Claude Cowork trên di động và web cùng việc gia hạn quyền truy cập Fable 5 đến ngày 12 tháng 7 là những thông báo sản phẩm liên quan đến kỹ thuật có mức độ tương tác cao nhất.

Chương trình nhà phát triển mã nguồn mở: @ClaudeDevs cung cấp 6 tháng Claude Max 20x cho những người bảo trì mã nguồn mở đã thu hút sự tương tác lớn và có khả năng quan trọng đối với việc áp dụng công cụ trong các hệ sinh thái OSS.

Tạo nội dung truyền thông của Meta: Sự ra mắt của Muse Image và vị trí thứ 2 của Arena cho Muse Image là những câu chuyện sản phẩm đa phương thức lớn nhất.

Độ tin cậy của suy luận: Bản phát hành Antidoom của Liquid AI nổi bật là bài đăng về kỹ thuật đào tạo có tín hiệu cao nhất trong ngày.

Khả năng diễn giải: Tính phổ quát của J-lens liên mô hình trên 38 mô hình mở là sự tiếp nối kỹ thuật mạnh mẽ nhất cho diễn ngôn về J-space.