FLEET cải thiện hiệu suất LLM bằng cách theo dõi các quỹ đạo có độ entropy cao để điều chỉnh logits, giúp tăng tốc độ tạo văn bản gấp 3 lần và cải thiện đáng kể độ chính xác trên LiveCodeBench.
Bài báo chỉ ra rằng việc thiếu kiểm định độ tin cậy của mô hình là rào cản lớn trong đánh giá LLM, dẫn đến sai lầm nguy hiểm khi triển khai thực tế và làm hỏng quy trình nghiên cứu.
Artificial Analysis vừa cập nhật dữ liệu cho Mercury 2.5, mẫu mô hình suy luận chuyên biệt ra mắt ngày 8/9/2026 với tốc độ ấn tượng 780.8 token/giây, bỏ xa mức trung bình 110.3 token/giây của các đối thủ cùng phân khúc.
Xiaomi giới thiệu kiến trúc HySparse2 cho mô hình MiMo-V3, sử dụng cơ chế chia sẻ KV hai cấp và chọn lọc token thưa để giảm thiểu chi phí tính toán Prefill và bộ nhớ KV Cache cho các tác vụ Agent phức tạp.
Diễn biến sự kiện · 3 bài →Thêm 4 nguồn khác đưa tinIT HomeX: Luo Fuli (@_LuoFuli)TechNodePandailySử dụng Baidu Qianfan Token Plan với chi phí chỉ 1.395 đồng, bài viết hướng dẫn cách tùy biến mô hình DeepSeek-V4-Flash để tái hiện cơ chế Jev của TypeSafe AI, biến LLM tự hồi quy thành công cụ ra quyết định có cấu trúc chỉ với 400 dòng C++.
MemoryAthena giới thiệu phương pháp kết hợp truy xuất bộ nhớ truyền thống với khả năng tự tạo nội dung, sử dụng bộ định tuyến thông minh để quyết định khi nào nên dùng dữ liệu gốc và khi nào cần bổ sung thông tin mới, giúp tăng độ chính xác cho mô hình.
Xiaomi xác nhận MiMo-V3 sẽ sử dụng kiến trúc HySparse2, giúp giảm đáng kể chi phí suy luận và bộ nhớ KV cache khi xử lý ngữ cảnh lên tới 1 triệu token, tối ưu hóa hiệu suất cho các tác vụ AI agent.
Cùng sự kiện, bài đại diện «Xiaomi hé lộ kiến trúc HySparse2 trên MiMo-V3: Tối ưu cho Agent đa vòng hội thoại dài»Dựa trên dữ liệu từ 175.000 tương tác, StudentBench cho thấy AI có khả năng giảng dạy GRE ngang ngửa con người, thậm chí vượt trội ở 5 trong 7 lĩnh vực chuyên môn.
Elvis Saravia@omarsar0Nice paper showing how to re-evaluate a production agent at a fraction of the cost. 200 questions, …
DịchNghiên cứu đề xuất cách đánh giá lại AI Agent sản xuất chỉ với 200 câu hỏi (38.5% bộ đề gốc) nhưng vẫn giữ sai số cực thấp, giúp tiết kiệm chi phí vận hành đáng kể.
Yuchen Jin@Yuchenj_UWA $500k engineer costs $2, 000 per working day. If $200/day of LLM tokens makes them 20% more produc…
DịchVới mức lương 2.000 USD/ngày, việc chi 200 USD cho LLM để tăng 20% năng suất kỹ sư là khoản đầu tư cực kỳ hiệu quả. Thứ đắt đỏ không phải là token, mà là sự lãng phí tiềm năng của nhân sự trình độ cao.
@typesafeai@typesafeaiLLMs distilling Jev like
DịchKhám phá kỹ thuật chưng cất tri thức từ các mô hình ngôn ngữ lớn (LLM) áp dụng theo phương pháp Jev, nhằm tối ưu hóa hiệu suất và giảm tài nguyên tính toán.
Tencent Hunyuan@TencentHunyuan⚡️ As LLM reinforcement learning scales to larger GPU clusters and more training data, training effi…
DịchNghiên cứu từ Tencent Hunyuan cho thấy việc điều chỉnh learning rate giúp tăng hiệu suất huấn luyện GRPO và PPO, giúp tăng tốc độ xử lý lên 2,29 lần và tiết kiệm 29% thời gian huấn luyện.
Cùng sự kiện, bài đại diện «Tencent Hunyuan: Nghiên cứu mở rộng kích thước batch trong học tăng cường LLM»SpeakerMem-R1 giải quyết các hạn chế của LLM trong việc ghi nhớ hội thoại đa bên bằng cách sử dụng cấu trúc bộ nhớ kênh đôi, giúp phân tách thông tin theo từng cá nhân và nhóm để tái tạo trạng thái hội thoại chính xác hơn.
Tencent Hunyuan@TencentHunyuan⚡️ As LLM reinforcement learning scales to larger GPU clusters and more training data, training effi…
DịchNhóm nghiên cứu Tencent Hunyuan tối ưu hóa học tăng cường cho LLM bằng cách mở rộng kích thước batch, giúp tăng tốc độ xử lý của PPO lên 2,29 lần và rút ngắn 29% thời gian huấn luyện GRPO mà vẫn đảm bảo hiệu suất.
@typesafeai@typesafeaiStepping away while LLMs churn is the new "sorry, code's compiling". Jev makes instant feedback ju…
DịchJEV giới thiệu mô hình suy luận ngữ nghĩa mới, cho phép LLM đưa ra quyết định có cấu trúc ngay lập tức với mọi ngữ cảnh. Hiệu suất của JEV trong các tác vụ truy vấn phức tạp đã đạt ngưỡng tương đương với các mô hình Claude hàng đầu hiện nay.
Nghiên cứu thiết lập các điều kiện toán học để định nghĩa tín dụng ở cấp độ token, từ đó giải thích cơ chế của các thuật toán hiện tại và đề xuất quy trình huấn luyện actor-critic tối ưu hơn cho LLM.
Nghiên cứu giới thiệu SchrodingerRepo, một khung đánh giá mới giúp loại bỏ tình trạng 'học vẹt' bằng cách thay đổi cấu trúc mã nguồn động, buộc các tác nhân AI phải thực sự tư duy thay vì dựa vào dữ liệu đã ghi nhớ từ trước.
OpenRouter@OpenRouterQwen3.8 Max Prime from @Alibaba_Qwen is live on OpenRouter. A higher-throughput variant of Qwen3.8 …
DịchQwen3.8 Max Prime, phiên bản tối ưu hóa băng thông cao của Qwen3.8 Max, đã chính thức ra mắt trên OpenRouter. Mô hình giữ nguyên sức mạnh 2.4T tham số, hỗ trợ đa phương thức (văn bản, ảnh, video), cửa sổ ngữ cảnh 1M và khả năng suy luận mạnh mẽ.
Rohan Paul@rohanpaul_aiNew Google paper shows for small quantized LLMs on serverless CPUs, 55-70% of cold-start latency is …
DịchNghiên cứu của Google chỉ ra rằng 55-70% độ trễ khởi động của các LLM lượng tử hóa trên CPU serverless đến từ việc tải trọng số mô hình. Việc tăng dung lượng RAM cấp phát có thể giúp tối ưu hóa đáng kể tốc độ suy luận.
Kỹ sư Jackson Kernion từ Anthropic cho biết việc tối ưu hóa Claude cho toán học và code, cùng lượng lớn dữ liệu huấn luyện dành cho AI, đã tạo ra 'giọng văn Claude' xa rời ngôn ngữ tự nhiên của con người.
Cùng sự kiện, bài đại diện «Kỹ sư Anthropic lý giải vì sao Claude ngày càng thông minh nhưng văn phong lại tệ đi»
Aravind Srinivas (Perplexity CEO)@AravSrinivasNever bet against open weight models
DịchXiaomi vừa trình làng bộ đôi mô hình mã nguồn mở MiMo-V2.6 Pro và Flash. Phiên bản Pro đạt điểm số kỷ lục 46 trên Artificial Analysis, khẳng định năng lực vượt trội ngang hàng với Claude Opus 5 và GPT-5.6 Sol trong các tác vụ Agent.
Xiaomi chính thức ra mắt lõi HySparse 2 cho mô hình MiMo-V3, giúp giảm 5 lần khối lượng tính toán và 4,5 lần bộ nhớ KV cache ở độ dài 1M token, đồng thời cải thiện đáng kể hiệu suất xử lý ngữ cảnh dài.
Cùng sự kiện, bài đại diện «Xiaomi hé lộ kiến trúc HySparse2 trên MiMo-V3: Tối ưu cho Agent đa vòng hội thoại dài»
Luo Fuli@_LuoFuliMiMo-V3 is getting a new architecture. The core of it, HySparse2, is out today. Less prefill, a sma…
DịchKiến trúc HySparse2 mới của MiMo-V3 giúp giảm 5,02 lần FLOPs prefill và thu nhỏ 4,5 lần KV cache so với bản tiền nhiệm, đồng thời cải thiện đáng kể hiệu suất trên các bài kiểm tra độ dài ngữ cảnh lớn.
JEV-as-a-Judge sử dụng mô hình đánh giá chi phí thấp để sàng lọc sơ bộ, kết hợp cơ chế leo thang khi độ tin cậy thấp, giúp duy trì 99% độ chính xác của các mô hình SOTA với chi phí chỉ bằng 0,36%.
Thêm 1 nguồn khác đưa tinX: Elvis Saravia (@omarsar0, DAIR.AI)Nghiên cứu giới thiệu kỹ thuật LatentPort cho phép chuyển giao trạng thái bộ nhớ trực tiếp giữa Qwen3.5 4B và 9B mà không cần nạp lại tiền tố, giúp tối ưu hóa hiệu suất suy luận thông qua việc tái sử dụng trạng thái Gated DeltaNet.
Tại hội nghị Apsara 2026, Alibaba xác nhận đang huấn luyện Qwen4 và công bố lộ trình phát triển Qwen4.5/Qwen5 với quy mô lên tới 10 nghìn tỷ tham số, đồng thời ghi nhận hiệu suất tự cải thiện ấn tượng từ Qwen3.8-Max.
Nokia vừa ra mắt AnyJev, thư viện Python cho phép chuyển đổi các LLM mở thành mô hình ra quyết định có khả năng xuất xác suất mà không cần đào tạo lại, kế thừa giao diện từ Jev của TypeSafe AI.
ZHO@ZHO_ZHO_ZHONghiên cứu 'Look Light, Think Heavy' chỉ ra rằng các mô hình AI như GPT-6 đang dần bỏ qua chi tiết hình ảnh để tập trung vào suy luận ngôn ngữ, dẫn đến sự đứt gãy trong khả năng hiểu thực tế.
Nghiên cứu giới thiệu Taste-Bench, bộ tiêu chuẩn đánh giá khả năng đưa ra quyết định tối ưu của AI Agent trong các tác vụ dài hạn. Kết quả cho thấy ngay cả các mô hình mạnh nhất cũng gặp khó khăn khi đối mặt với các tình huống đòi hỏi sự tinh tế trong lựa chọn.
Anthropic chính thức giới thiệu Claude Opus 5.5, phiên bản nâng cấp mạnh mẽ với khả năng xử lý vượt trội và độ chính xác cao hơn trong các tác vụ phức tạp.
Cùng sự kiện, tinh chọn hiển thị «Claude Code cập nhật v2.1.280: Ra mắt Claude Opus 5.5 làm mô hình mặc định»Bellman Policy Optimization (BPO) là phương pháp huấn luyện mô hình ngôn ngữ không cần critic, giúp tối ưu hóa khả năng suy luận thông qua các phần thưởng cuối cùng mà không cần ước tính giá trị trạng thái trung gian.
Bài nghiên cứu phân tích sự tiến hóa của các mô hình ngôn ngữ lớn (LLM) trong việc hỗ trợ sức khỏe tâm thần, từ công cụ nhận diện cơ bản đến những người bạn đồng hành cá nhân hóa, nhằm giải quyết các rào cản trong chăm sóc y tế truyền thống.
Elvis Saravia@omarsar0Opus 5.5 feels more like Opus 4.5. Is it just me, or did it get a lot better at writing? Claudes…
DịchNgười dùng nhận định Opus 5.5 có phong cách viết cải thiện đáng kể, loại bỏ được cảm giác máy móc đặc trưng của Claude và mang lại trải nghiệm đọc tự nhiên, dễ chịu hơn.
Cùng sự kiện, tinh chọn hiển thị «Claude Code cập nhật v2.1.280: Ra mắt Claude Opus 5.5 làm mô hình mặc định»Elvis Saravia@omarsar0Interesting paper on agent memory stored as a linked markdown wiki. Lots of great ideas and insight…
DịchWFM là mô hình nền tảng Wiki giúp chuyển đổi dữ liệu LLM thành cấu trúc đồ thị, cho phép truy xuất thông tin dựa trên mối liên kết giữa các trang. Công nghệ này tối ưu hóa khả năng suy luận đa bước và tăng tốc độ huấn luyện lên 10,5 lần, lý tưởng cho các AI sử dụng bộ nhớ dạng Markdown.
Rohan Paul@rohanpaul_aiA model's context window does not have to be an agent's workspace limit. KVMEM makes million-token …
DịchKVMEM áp dụng kỹ thuật phân trang trạng thái KV cũ giúp AI Agent xử lý hàng triệu token hiệu quả hơn. Công nghệ này cải thiện đáng kể độ chính xác trên DeepSWE và tăng tốc độ truy xuất dữ liệu gấp nhiều lần so với các phương pháp nén truyền thống.
Nghiên cứu khám phá cách hình học Fisher-Rao kết nối hành vi của các mô hình ngôn ngữ, cho thấy sự tương đồng về cấu trúc đầu ra giữa các kiến trúc khác nhau và khả năng chuyển đổi ngữ nghĩa hiệu quả.
OpenRouter đã kiểm chứng 37 mô hình embedding thông qua 28 bài kiểm tra hiệu năng thực tế, cung cấp cái nhìn toàn diện giúp người dùng lựa chọn mô hình phù hợp nhất cho dự án.
Hongming@hongming731Anthropic trình làng Claude Opus 5.5 với chi phí vận hành giảm 40% và tốc độ xử lý nhanh hơn 30%. Bản tin còn cập nhật về mô hình MiMo-V2 trong học tăng cường và cách Meituan tối ưu hóa hệ thống gợi ý bằng LLM.
Cùng sự kiện, tinh chọn hiển thị «Anthropic giải mã lý do Claude Opus 5.5 là lựa chọn tối ưu cho lập trình với ngữ cảnh dài»Phiên bản LLM 0.36 bổ sung hai mô hình mới từ OpenAI là gpt-6-sol và gpt-6-luna, đồng thời cập nhật cơ chế kiểm soát hội thoại cho các plugin để ngăn chặn lỗi khi sử dụng mô hình đơn vòng.
Phiên bản llm-anthropic 0.29 vừa được phát hành, cho phép người dùng gọi trực tiếp mô hình Claude Opus 5.5 thông qua dòng lệnh với cú pháp đơn giản.
Cùng sự kiện, tinh chọn hiển thị «Claude Code cập nhật v2.1.280: Ra mắt Claude Opus 5.5 làm mô hình mặc định»