Đội ngũ kỹ thuật Anthropic đã thực hiện đợt chạy nước rút 2 tuần để tăng tốc trải nghiệm người dùng, giảm thời gian phản hồi ban đầu trên claude.ai từ 3,1 giây xuống còn 0,55 giây và cải thiện đáng kể tốc độ khởi chạy của Claude Code cũng như Claude Cowork.
Cùng sự kiện, tinh chọn hiển thị «Đội ngũ Claude chia sẻ cách tăng tốc claude.ai gấp 3 lần chỉ trong hai tuần»
Elvis Saravia@omarsar0Must-read paper from Google on self-improving agent harnesses. If you auto-optimize your agent's ha…
DịchNghiên cứu RRSI từ Google chỉ ra rằng việc tự động tối ưu hóa harness của Agent dễ dẫn đến tình trạng quá tải (overfitting), khiến điểm số đánh giá cao nhưng hiệu suất thực tế lại suy giảm.
Eric Zakariasson@ericzakariassonhere's a prompt to improve your agent harness based on what we've learned at cursor. enjoy # Improv…
DịchChia sẻ bộ prompt giúp giảm 7% chi phí token cho Agent Harness mà không làm giảm chất lượng, thông qua việc tinh gọn prompt, tối ưu hóa công cụ và quản lý bộ nhớ đệm hiệu quả.
Hugging Face chia sẻ hướng dẫn chi tiết cách chuyển đổi mô phỏng cánh tay robot SO-101 sang MJWarp, giúp tận dụng sức mạnh GPU để chạy song song 2048 môi trường, tối ưu hóa hiệu suất học máy.
Modal tiết lộ kỹ thuật tối ưu hóa giúp tăng 2,8 lần hiệu suất mỗi người dùng và 5,6 lần thông lượng cho mô hình Kimi K2.6, cho phép xử lý hàng trăm tỷ token mỗi ngày.
Eric Zakariasson@ericzakariassonagents like to read a lot to gather context before and after working, so optimizing for reading make…
DịchCursor đã cắt giảm 7% chi phí token mà không ảnh hưởng đến chất lượng Agent nhờ tối ưu hóa cách đọc dữ liệu, bao gồm nén file và quản lý prompt thông minh. Dữ liệu cho thấy công cụ 'read' chiếm tới 91,3% tần suất sử dụng trong các phiên làm việc của Agent.
Microsoft Research tích hợp khả năng giảm tải suy luận vào Physical AI Toolchain, cho phép phân bổ khối lượng công việc AI của robot giữa thiết bị, biên và đám mây thông qua Kubernetes, giúp tăng hiệu suất vận hành thực tế.
Thêm 1 nguồn khác đưa tinX: Microsoft Research (@MSFTResearch)Elvis Saravia@omarsar0Banger paper from Microsoft Research and colleagues. It studies the potential benefits of agents th…
DịchNghiên cứu mới chỉ ra rằng các tác nhân AI giao tiếp qua thư mục chia sẻ giúp tối ưu hóa hiệu suất vượt trội. Kết quả cho thấy nhóm k tác nhân có thể đạt tỷ lệ thành công ngang bằng 4k tác nhân độc lập trong các bài kiểm tra ARC-AGI-3 và nén dữ liệu.
Tại sự kiện Made on YouTube, nền tảng này đã giới thiệu AI agent giúp tự động phân tích dữ liệu, đề xuất thay đổi tiêu đề, ảnh thu nhỏ và hỗ trợ lập kế hoạch thương hiệu cho nhà sáng tạo.
Cùng sự kiện, bài đại diện «YouTube ra mắt loạt tính năng AI mới cho nhà sáng tạo trong ứng dụng Studio»
Luo Fuli@_LuoFuliMiMo-V3 is getting a new architecture. The core of it, HySparse2, is out today. Less prefill, a sma…
DịchKiến trúc HySparse2 mới của MiMo-V3 giúp giảm 5,02 lần FLOPs prefill và thu nhỏ 4,5 lần KV cache so với bản tiền nhiệm, đồng thời cải thiện đáng kể hiệu suất trên các bài kiểm tra độ dài ngữ cảnh lớn.
Bộ Tư lệnh Vận tải Mỹ (TRANSCOM) đang ứng dụng AI để tạo ra các lộ trình vận chuyển khó đoán, giúp ngăn chặn đối phương theo dõi và can thiệp vào chuỗi cung ứng quân sự trong các tình huống tác chiến phức tạp.
Nghiên cứu giới thiệu kỹ thuật LatentPort cho phép chuyển giao trạng thái bộ nhớ trực tiếp giữa Qwen3.5 4B và 9B mà không cần nạp lại tiền tố, giúp tối ưu hóa hiệu suất suy luận thông qua việc tái sử dụng trạng thái Gated DeltaNet.
Tác giả chia sẻ phương pháp sử dụng các AI Agent với bộ quy tắc kiểm soát chặt chẽ để tinh chỉnh mã nguồn Rust, giúp đạt hiệu suất vượt trội so với các tiêu chuẩn hiện tại.
Bellman Policy Optimization (BPO) là phương pháp huấn luyện mô hình ngôn ngữ không cần critic, giúp tối ưu hóa khả năng suy luận thông qua các phần thưởng cuối cùng mà không cần ước tính giá trị trạng thái trung gian.
Rohan Paul@rohanpaul_aiA model's context window does not have to be an agent's workspace limit. KVMEM makes million-token …
DịchKVMEM áp dụng kỹ thuật phân trang trạng thái KV cũ giúp AI Agent xử lý hàng triệu token hiệu quả hơn. Công nghệ này cải thiện đáng kể độ chính xác trên DeepSWE và tăng tốc độ truy xuất dữ liệu gấp nhiều lần so với các phương pháp nén truyền thống.
@completeskeptic@completeskepticthe industry is going full jevons faster than anyone ever thought
DịchMetaview đã tích hợp Jev vào toàn bộ hệ thống AI, giúp rút ngắn thời gian tìm kiếm ứng viên từ vài phút xuống vài giây mà vẫn giữ nguyên độ chính xác. Phương pháp này cho phép xây dựng AI theo hướng module hóa, giúp sửa lỗi và tối ưu hiệu suất hiệu quả hơn.
Lauren Tan@potetothe Grok @Bot desktop app just got even faster! we shipped 53 perf fixes over the past few days: •…
DịchGrok vừa tối ưu hóa mạnh mẽ ứng dụng desktop với 53 cải tiến, giúp tốc độ kết nối lại nhanh gấp 85 lần, khởi động tức thì và giảm đáng kể mức tiêu thụ tài nguyên hệ thống.
Nghiên cứu giải quyết tình trạng mất ổn định khi huấn luyện RL cho LLM bằng FP8, vốn gây ra lỗi sai lệch gradient và làm giảm chất lượng mô hình. Nhóm tác giả đề xuất phương pháp mới giúp duy trì độ chính xác và hiệu suất huấn luyện ổn định hơn.
DAIR.AI@dair_aiInteresting work on long-horizon research agents. PrimeScientists can decide where a research agent…
DịchPrimeScientist cho phép các tác nhân AI tự quản lý ngân sách nghiên cứu thông qua chiến lược MCTS thích ứng, giúp tăng 10,3% hiệu quả và giảm 50,6% số lần thử nghiệm so với các phương pháp truyền thống.
Nathan Lambert@natolambertFrontier: pacing Pulling up the ladder: accelerating
DịchClaude Opus 5.5 được cho là phiên bản đầu tiên áp dụng cơ chế tự động chuyển đổi sang mô hình có năng lực thấp hơn khi xử lý các tác vụ chuyên sâu như phát triển nhân hệ điều hành, nhằm tối ưu hóa hiệu suất và tài nguyên.
Cùng sự kiện, tinh chọn hiển thị «Claude Code cập nhật v2.1.280: Ra mắt Claude Opus 5.5 làm mô hình mặc định»LlamaIndex ra mắt LiteParse 2.14.6 với tối ưu hóa bộ nhớ, giúp giảm thời gian trích xuất văn bản xuống còn 2,76ms/trang, đồng thời bổ sung tính năng định vị thị giác và API is-complex.
Bài viết phân tích chiến lược tối ưu hóa Batch Size trong huấn luyện Reinforcement Learning (RL) quy mô lớn, giúp cân bằng giữa hiệu suất tính toán và thời gian huấn luyện để tiết kiệm chi phí vận hành hàng triệu USD.
Nghiên cứu chỉ ra rằng có thể đạt hiệu suất tương đương hoặc vượt trội so với chưng cất toàn phần chỉ với 0,1%-1% token. Bằng cách sử dụng chỉ số hiệu quả thông tin (IER), phương pháp này giúp chọn lọc dữ liệu huấn luyện tối ưu, tiết kiệm tài nguyên đáng kể cho các mô hình ngôn ngữ lớn.
Nhóm nghiên cứu từ NVIDIA, NTU và MIT giới thiệu SoL-Pi, bộ giải pháp tối ưu hóa giúp giảm đáng kể lượng token tiêu thụ cho các AI lập trình (Coding Agent) thông qua cơ chế tự động hóa thông minh.
Jev-Mem là kiến trúc bộ nhớ mới lấy cảm hứng từ tư duy System-One/System-Two, giúp tối ưu hóa việc quản lý, truy xuất và xử lý dữ liệu cho AI Agent một cách thông minh và hiệu quả hơn.
Kỹ sư tại Linear giải quyết bài toán nghẽn CI khi số lượng test tăng gấp 4 lần nhờ AI, giúp giảm thời gian chờ PR từ 6 phút xuống còn 5 phút và tối ưu hiệu suất runner.
Elvis Saravia@omarsar0Impressive paper showing how much the first retrieval step matters for deep research agents. It hel…
DịchPhương pháp mới giúp AI phân tách câu hỏi thành các manh mối bổ trợ và sắp xếp dữ liệu trước khi tìm kiếm, giúp tối ưu hóa ngữ cảnh đầu vào cho các tác vụ nghiên cứu phức tạp.
Logan Kilpatrick@OfficialLoganKif you are building a product using AI, you should be spending > 25% of your time making benchmark…
DịchLogan Kilpatrick nhấn mạnh rằng việc tập trung vào kiểm thử chuẩn là con đường ngắn nhất để tối ưu hóa sản phẩm AI và thúc đẩy sự phát triển của công ty.
DAIR.AI@dair_aiNice paper showing a better way to evolve agent skills. And they achieve 40-70% less token cost com…
DịchSkillLift sử dụng tiêu chuẩn đánh giá học được để xếp hạng các gợi ý kỹ năng, giúp giảm 40-70% chi phí tự tiến hóa cho AI Agent mà vẫn vượt trội hơn các phương pháp hiện có trên hàng trăm tác vụ.
SemiAnalysis@SemiAnalysis_Computation and Data Movement for Inference Mapping MoE models onto inference hardware: structure, f…
DịchBài viết đi sâu vào cách tối ưu hóa kiến trúc phần cứng để vận hành hiệu quả các mô hình MoE, tập trung giải quyết nút thắt về luân chuyển dữ liệu trong quá trình suy luận.
Rohan Paul@rohanpaul_aiWhite Circle just unveiled Halo, an open-source, distributed post-training framework for models that…
DịchHalo là framework hậu huấn luyện phân tán giúp tối ưu hóa hiệu suất vượt trội so với HuggingFace TRL, đạt tốc độ nhanh gấp 2.8 lần và tiết kiệm 25% bộ nhớ mà vẫn giữ nguyên định dạng mô hình gốc.
Meta vừa công bố mã nguồn mở Rebalancer, thư viện chuyên dụng giải quyết các bài toán phân bổ tài nguyên phức tạp đã được ứng dụng nội bộ hơn 9 năm với quy mô 40 triệu tác vụ mỗi ngày.
SiliconBench là bộ tiêu chuẩn mới đánh giá 9 công cụ chạy LLM trên Apple Silicon dựa trên ba yếu tố: tốc độ, bộ nhớ và độ chính xác, giúp tối ưu hóa việc triển khai mô hình cục bộ.
Nhóm nghiên cứu từ Shanghai AI Lab và ĐH Giao thông Thượng Hải giới thiệu mô hình NCP-ArchPreview, thay thế dự đoán từ ngữ (NTP) bằng dự đoán khái niệm (NCP), giúp tăng tốc độ hội tụ gấp 1,95 lần và cải thiện hiệu suất suy luận đáng kể.
Thay vì phụ thuộc vào các bảng xếp hạng chung chung, bài viết hướng dẫn bạn cách thiết kế bộ tiêu chuẩn đánh giá riêng dựa trên nhu cầu công việc thực tế để chọn ra mô hình AI phù hợp nhất.
Multiverse giới thiệu phương pháp cắt tỉa khối LLM bằng cách chuyển đổi thành bài toán tối ưu hóa Ising, giúp chọn cấu hình nén tối ưu mà không cần chạy benchmark. Kết quả trên Llama-3.3-70B cho thấy hiệu suất vượt trội, tăng 23% điểm MMLU so với các phương pháp truyền thống.
Hugging Face vừa phát hành Tokenizers v1 với tốc độ xử lý nhanh gấp hàng chục lần phiên bản cũ nhờ kiến trúc workspace mới, kỹ thuật SIMD và tối ưu hóa đa luồng, trong khi vẫn đảm bảo tính tương thích hoàn toàn với các token ID cũ.
Thêm 1 nguồn khác đưa tinX: Clément Delangue (Hugging Face CEO) (@ClementDelangue)Rohan Paul@rohanpaul_aiIf an agent rewrites its runtime for every bad decision, it can learn the wrong lesson Fix recurrin…
DịchECDYSIS là khung vận hành mới giúp AI Agent học từ các nhóm lỗi tương đồng thay vì sửa lỗi đơn lẻ, giúp tăng độ chính xác, tốc độ huấn luyện và khả năng thích ứng trên nhiều mô hình khác nhau.
FRAUDSkill là khung thích ứng mới giúp tối ưu hóa các quy tắc ra quyết định mà không cần thay đổi trọng số của mô hình ngôn ngữ âm thanh gốc, giúp việc phát hiện gian lận linh hoạt và dễ cập nhật hơn.
MoME thay thế các bảng nhúng tĩnh bằng cơ chế hỗn hợp nhiều khe cắm, cho phép mô hình truy xuất thông tin linh hoạt dựa trên ngữ cảnh thay vì chỉ dựa vào từ khóa, giúp cải thiện hiệu suất đáng kể cho các dòng LLM như Llama-3 hay Qwen.