Cliff sử dụng LLM làm giáo viên để phát hiện lỗi sai sớm trong quá trình suy luận, từ đó tối ưu hóa mô hình bằng cách phân tách chuỗi phản hồi thành phần đúng và sai. Phương pháp này vượt trội hơn các kỹ thuật truyền thống như GRPO tới 7%, ngay cả khi giáo viên có năng lực hạn chế.
Google AI for Developers@googleaidevsGemini 3.8 Flash is hardwired for complex reasoning. ⚙️ To test its skills, we built an interactive…
DịchGoogle vừa giới thiệu Gemini 3.8 Flash, phiên bản được tối ưu hóa cho các tác vụ suy luận chuyên sâu. Điểm nhấn là khả năng xử lý dữ liệu phức tạp, minh chứng qua việc tự động phân tách và trực quan hóa các thành phần phần cứng 3D trên Google AI Studio.
Rohan Paul@rohanpaul_aiSo happy to see this new Microsoft paper. If lower inference memory is the goal, this paper finds t…
DịchNghiên cứu chỉ ra rằng Sliding-window attention (SWA) hiệu quả hơn hầu hết các phương pháp Linear attention khi tối ưu bộ nhớ suy luận, chỉ cần kết hợp cửa sổ nhỏ và 4 token 'sink' đầu tiên.
Noam Brown@polynoamialJakub is chief scientist at @OpenAI
DịchNoam Brown xác nhận Jakub Pachocki giữ vị trí Giám đốc Khoa học tại OpenAI. Đồng thời, OpenAI chia sẻ về kỹ thuật suy luận chuỗi (chain-of-thought) trong các mô hình hiện tại, khẳng định đây là trọng tâm nghiên cứu dù vẫn còn nhiều thách thức về tính ổn định.
Emad Mostaque@EMostaqueI see a lot of my TL freaking out about this Here is the reality: Frontier models will one shot ju…
DịchEmad Mostaque cho rằng phương pháp 'recurrent depth' trên Astra giúp tối ưu hiệu suất nhưng lại che giấu quá trình tư duy của AI, khiến việc giám sát trở nên bất khả thi khi tốc độ xử lý đạt ngưỡng 10.000 tokens/giây.
Thêm 1 nguồn khác đưa tinTechCrunch: AIDiagEvo giúp mô hình AI tự học bằng cách lưu trữ các lỗi sai vào bộ nhớ phân tầng, từ đó tự tạo ra các bài tập thực hành phù hợp để khắc phục điểm yếu mà không cần dữ liệu bên ngoài.
Nghiên cứu giới thiệu FACE-Eval để kiểm tra khả năng suy luận trung thực của 15 mô hình AI. Kết quả cho thấy các mô hình dễ bị ảnh hưởng bởi dữ liệu từ công cụ hơn là tin nhắn người dùng, dù chúng không luôn thừa nhận điều đó trong chuỗi suy luận.
SHAPE là khung phân tích mới giúp hiểu sâu cách LLM giải toán thông qua không gian ngữ nghĩa và các chiến lược suy luận, từ đó dự đoán chính xác khả năng giải đúng của mô hình.
Rohan Paul@rohanpaul_aiThis paper shows a different way to make chain-of-thought cheaper: move reusable reasoning from gene…
DịchPhương pháp này chuyển đổi các bước suy luận từ giai đoạn tạo văn bản sang phần gợi ý (prompt), giúp giảm chi phí tính toán cho chuỗi tư duy mà không cần huấn luyện lại mô hình.
Rohan Paul@rohanpaul_aiSmall models fail the same way big models do, so this paper shows you can collect a cheap model's mi…
DịchCritICL tận dụng các lỗi sai phổ biến từ mô hình nhỏ để tạo lời nhắc (prompt) thông minh cho mô hình lớn. Phương pháp này giúp mô hình lớn suy luận chính xác ngay từ lần thử đầu tiên thay vì phải lặp lại nhiều lần, giúp tiết kiệm tài nguyên đáng kể.
CaRGo-T là khung suy luận mới sử dụng cấu trúc đồ thị để biểu diễn các mối quan hệ nhân quả và ngữ cảnh phức tạp trong nội dung hài hước, giúp các mô hình thị giác-ngôn ngữ hiểu sâu sắc hơn thay vì chỉ suy luận tuyến tính.
Nghiên cứu chỉ ra rằng chiến lược tiến hóa (ES) giúp tối ưu hóa suy luận LLM hiệu quả hơn GRPO, tránh được hiện tượng suy giảm entropy và cải thiện đáng kể tỷ lệ thành công (Pass@K) nhờ các cập nhật trọng số chọn lọc.
Prefix Sliding giúp giảm bộ nhớ suy luận xuống mức hằng số bằng cách loại bỏ các token trung gian không cần thiết, giúp tăng tốc độ xử lý gấp 3 lần mà không cần huấn luyện lại.
Hongming@hongming731Chip Jalapeño của OpenAI đạt hiệu suất năng lượng gấp 1.5-1.9 lần và giảm độ trễ từ 1.7-3.6 lần khi chạy trên các mô hình lớn như DeepSeek R1 và Kimi K2.5.
Testing Catalog@testingcatalogOpenAI announced initial performance results of their own Jalapeño chip for AI inference. > 1.5-…
DịchOpenAI vừa hé lộ kết quả thử nghiệm chip Jalapeño, cho thấy khả năng tối ưu hóa vượt trội với hiệu suất trên mỗi watt tăng tới 1,9 lần và độ trễ giảm đáng kể so với các giải pháp hiện tại.
Greg Brockman@gdbinference numbers published for jalapeno, team did an amazing job https://openai.com/index/jalapeno-...
DịchOpenAI vừa hé lộ chip Jalapeño với khả năng tối ưu hóa vượt trội về tốc độ và năng lượng cho các mô hình lớn như GPT-OSS, DeepSeek R1 và Kimi K2. Được thiết kế với sự hỗ trợ của AI chỉ trong 9 tháng, chip dự kiến triển khai cuối năm nay.
Cùng sự kiện, bài đại diện «OpenAI ra mắt chip suy luận tự phát triển Jalapeño: Đột phá về tốc độ và hiệu suất năng lượng»Rohan Paul@rohanpaul_aiGiving an agent a memory hierarchy is not what makes it reason better over long tasks. What helps is…
DịchNghiên cứu giới thiệu Weighted Memory Tree, phương pháp gán trọng số và giảm dần độ ưu tiên cho các ký ức thay vì xếp chồng dữ liệu, giúp AI Agent cải thiện độ chính xác và tiết kiệm chi phí token khi xử lý các tác vụ phức tạp.
Nghiên cứu đề xuất phương pháp R2-OPD giúp lọc phản hồi từ giáo viên trong quá trình chưng cất mô hình, đảm bảo việc học tập tập trung vào tiến trình suy luận thực tế thay vì chỉ bắt chước đầu ra của giáo viên.
Rohan Paul@rohanpaul_aiNew Google DeepMind paper shows, a transformer's shallow layers never see what its deeper layers hav…
DịchDeepMind đề xuất phương pháp 'Recirculation' bằng cách đưa các kích hoạt tầng sâu vào tầng nông trong quá trình suy luận, giúp giảm đáng kể độ bối rối (perplexity) của mô hình Gemma3 trên ngữ cảnh dài mà không cần thay đổi trọng số hay huấn luyện lại.
Elvis Saravia@omarsar0Recommended reading and a really cool idea. There are a lot of interesting harness designs that ar…
DịchCông nghệ sPTC giúp tối ưu hóa hiệu suất AI Agent bằng cách dự đoán và xếp hàng các lệnh gọi công cụ song song với quá trình tạo token, giúp giảm đáng kể độ trễ. Phương pháp này hiện mang lại mức tăng tốc từ 1 đến 1.2 lần, mở ra hướng đi mới cho việc tối ưu hóa hệ thống AI.
Nghiên cứu giới thiệu PatternEval, bộ tiêu chuẩn chẩn đoán mới nhằm đảm bảo tính nhất quán trong hành vi phản hồi giữa chế độ tư duy sâu và suy luận nhanh của các mô hình MLLM, giúp khắc phục các lỗi logic và định dạng thường gặp.
Ma Dongxi NLP@dongxi_nlpApodex Discovery giới thiệu TRACES, bộ tiêu chuẩn đánh giá khả năng suy luận có căn cứ và tính minh bạch của AI thông qua 6 tiêu chí cốt lõi. Phương pháp này giúp kiểm chứng quy trình giải quyết vấn đề thay vì chỉ tập trung vào kết quả cuối cùng.
What a fascinating paper on AI agents. A lot of the issues we see with AI agents today revolve arou…
DịchNghiên cứu mới đề xuất phương pháp 'Đặt câu hỏi tối ưu' giúp AI Agent giảm thiểu ảo giác và chi phí bằng cách coi việc thu thập ngữ cảnh là quá trình suy luận chủ động, cho phép đo lường hiệu suất thực tế so với mức tối ưu lý thuyết.
Artificial Analysis@ArtificialAnlysAnnouncing MLCR-AA, our leaderboard for Wisedocs' MLCR (Medical Long Context Reasoning) benchmark fo…
DịchArtificial Analysis vừa công bố bảng xếp hạng MLCR-AA cho các mô hình AI trong lĩnh vực y tế. Claude Fable 5 xuất sắc giành vị trí quán quân với 64,4%, trong khi phần lớn các mô hình khác đạt kết quả dưới 15%.
Qwen@Alibaba_QwenFresh recipes just dropped! ⚡ NVFP4 + DFlash2 for Qwen3.8-27B now in the SGLang cookbook. Thanks for…
DịchQwen2.5-27B vừa bổ sung hỗ trợ NVFP4 và DFlash2 vào cookbook của SGLang, giúp tăng tốc độ suy luận hiệu quả hơn. Đây là bản cập nhật đáng chú ý cho cộng đồng phát triển ứng dụng LLM.
MemTrapBench giải quyết lỗ hổng trong việc đánh giá cách bộ nhớ làm sai lệch khả năng suy luận của LLM. Nghiên cứu chỉ ra rằng các phương pháp ghi nhớ hiện tại thường gây tác dụng ngược, đồng thời giới thiệu AdaptiveMem giúp tối ưu hóa hiệu suất mà không mắc phải các bẫy nhận thức này.
Nghiên cứu giới thiệu khung làm việc HOTFIXR giúp cải thiện khả năng suy luận đa ngôn ngữ của LLM bằng cách tạo dữ liệu tổng hợp có độ khó tối ưu, khắc phục sự chênh lệch hiệu suất giữa các ngôn ngữ mà không làm giảm chất lượng phản hồi.
Hugging Face giới thiệu các mô hình dự đoán DSpark cho dòng LFM2.5, giúp tăng tốc độ xử lý trên GPU lên 3,18 lần và thiết bị đầu cuối lên 2,87 lần mà không làm giảm chất lượng đầu ra. Công nghệ này đã hỗ trợ mã nguồn mở cho llama.cpp và SGLang.
Thêm 1 nguồn khác đưa tinMarkTechPostNghiên cứu chỉ ra rằng việc sử dụng cơ chế tính toán lặp lại (recurrent) giúp các mô hình ngôn ngữ phối hợp nhiều API và duy trì trạng thái trung gian hiệu quả hơn trong các tác vụ phức tạp.
RUPA là khung làm việc mới giúp đánh giá độ tin cậy của tác nhân LLM bằng cách mô hình hóa lịch sử thực thi dưới dạng đồ thị, từ đó phát hiện lỗi tích tụ qua các bước suy luận thay vì chỉ dựa vào xác suất từng từ đơn lẻ.
Nghiên cứu giới thiệu phương pháp dự đoán đa byte (MBP) giúp tăng tốc độ suy luận cho các mô hình ngôn ngữ cấp byte mà không làm giảm hiệu suất hay tăng số lượng tham số.
Databricks vừa khởi động cuộc thi Grounded Reasoning Cup, tập trung đánh giá khả năng suy luận thực tế của các AI Agent trong môi trường trực tiếp thay vì các bài kiểm tra lý thuyết tĩnh.
Ma Dongxi NLP@dongxi_nlpThis is illuminating, but it also raises a deeper question. The old scaling paradigm: More compute …
DịchChuyên gia đặt nghi vấn về mô hình 1B tham số kết hợp công cụ, cho rằng việc nội hóa tri thức vào tham số có giới hạn và để đạt trí tuệ đỉnh cao vẫn cần các mô hình lớn hơn. Sau kỷ nguyên mở rộng tính toán tiền huấn luyện và suy luận, ngành AI đang tìm kiếm trục mở rộng mới.
Nghiên cứu chỉ ra rằng các mô hình tư duy hiện nay thường khuếch đại các hành vi như tự sửa lỗi nhưng lại bỏ qua những yếu tố thực sự quyết định độ chính xác. Việc hiểu rõ khoảng cách giữa 'biểu hiện suy luận' và 'hiệu quả thực tế' là chìa khóa để tối ưu hóa các mô hình AI thế hệ mới.
SimpleOPD giải quyết các thách thức khi chuyển giao khả năng suy luận từ mô hình ngữ cảnh dài sang mô hình ngữ cảnh ngắn, thông qua việc đồng bộ hóa không gian văn bản và tối ưu hóa quá trình huấn luyện để tránh lỗi độ dài và mất ổn định.
Second Thought là khung suy luận mới giúp các tác nhân AI tận dụng thời gian chờ phản hồi từ môi trường để thực hiện các suy luận phụ song song, giúp giảm đáng kể số bước cần thiết để hoàn thành tác vụ mà không cần huấn luyện lại.
Các mô hình AI hiện đại đang ưu tiên khả năng suy luận thay vì lưu trữ kiến thức. Điều này giúp GLM-5.2 đạt điểm số ấn tượng trong các bài kiểm tra toán học, nhưng lại khiến các mô hình nhỏ như Qwen3.5 9B dễ gặp ảo giác hơn khi truy vấn thông tin thực tế.
Gambit giới thiệu phương pháp tìm kiếm theo luồng suy nghĩ (thought-level beam search) giúp phân bổ tài nguyên tính toán thông minh hơn trong quá trình suy luận, thay vì lãng phí vào các hướng đi kém hiệu quả.
Nghiên cứu giới thiệu phương pháp Hybrid-Policy Self-Editing giúp LLM không chỉ ghi nhớ thông tin mới mà còn có thể suy luận và trả lời các câu hỏi phức tạp dựa trên kiến thức đã cập nhật, khắc phục hạn chế của các kỹ thuật chỉnh sửa kiến thức hiện nay.
Bài viết cung cấp quy trình toàn diện từ xử lý luồng, lọc dữ liệu đến tinh chỉnh mô hình dựa trên bộ dữ liệu suy luận SupraLabs, giúp tối ưu hóa hiệu suất cho các mô hình AI tư duy.