LMSM giới thiệu phương pháp tách biệt các lớp kiểm soát bảo mật cho LLM, cho phép chuẩn hóa việc đánh giá tín hiệu nội bộ và thực thi chính sách an toàn một cách nhất quán, tương tự như cách Linux quản lý bảo mật hệ thống.
Rohan Paul@rohanpaul_aiunbelievable. 🤯 Emad Mostaque just showed Taalas generating at ~14, 000 tokens/second speed. For c…
DịchEmad Mostaque vừa công bố mô hình Taalas với tốc độ tạo văn bản kinh ngạc lên tới 14.000 token/giây, vượt xa tốc độ 50-150 token/giây của ChatGPT hiện nay.
Rohan Paul@rohanpaul_aiKeep the model fixed, change the harness, and coding-agent results can move a lot when context gets …
DịchNghiên cứu cho thấy việc tinh chỉnh khung làm việc thay vì thay đổi mô hình giúp các AI lập trình (như Qwen, Devstral) cải thiện đáng kể hiệu suất khi xử lý ngữ cảnh dài, với tỷ lệ giải quyết tác vụ thực tế tăng vọt trên SWE-bench.
DAIR.AI@dair_aiInteresting technical work from Microsoft. Provides a better understanding on SFT and how to levera…
DịchMicrosoft giới thiệu TailSFT, kỹ thuật lọc dữ liệu giúp mô hình tập trung vào các phần chưa tối ưu thay vì lãng phí tài nguyên vào những gì đã học tốt, từ đó cải thiện đáng kể khả năng lập trình và toán học sau khi huấn luyện tăng cường (RL).
Kim@kimmonismusClaude Opus 4.1 Thinking Gemini 2.5 Pro GPT-5 High Were the best models 12 months ago. Just think w…
DịchNhìn lại những cái tên đình đám như Claude Opus 4.1 hay GPT-5 High từ một năm trước để thấy được tốc độ phát triển kinh ngạc và những thay đổi chóng mặt mà công nghệ AI đã mang lại cho chúng ta.
Rohan Paul@rohanpaul_aiSmall models fail the same way big models do, so this paper shows you can collect a cheap model's mi…
DịchCritICL tận dụng các lỗi sai phổ biến từ mô hình nhỏ để tạo lời nhắc (prompt) thông minh cho mô hình lớn. Phương pháp này giúp mô hình lớn suy luận chính xác ngay từ lần thử đầu tiên thay vì phải lặp lại nhiều lần, giúp tiết kiệm tài nguyên đáng kể.
Rohan Paul@rohanpaul_aiLetting an LLM decide what to try next wastes experiments, and this paper shows that scoring its ide…
DịchModel Discovery Agent (MDA) kết hợp LLM với toán học Bayes để chọn lọc các thí nghiệm mang tính quyết định, giúp giảm đáng kể tài nguyên lãng phí. Công nghệ này đạt tỷ lệ thành công 93% trong các bài kiểm tra vật lý và rút ngắn thời gian nghiên cứu từ 41 xuống còn 8 thí nghiệm.
DAIR.AI@dair_aiTuần này nổi bật với việc Netflix ứng dụng LLM quản lý vòng đời nội dung, NVIDIA giới thiệu phương pháp Skill Lift đánh giá kỹ năng thực tế, và Alibaba ra mắt Scroll giúp tối ưu hóa quản lý ngữ cảnh cho mô hình Qwen.
Elvis Saravia@omarsar0Recommended read. It's an opinion, but increasingly I find myself doing the same. I've optimized f…
DịchChuyên gia Elvis Saravia khuyên nên ưu tiên các bộ khung (harness) tối giản để dễ dàng chuyển đổi giữa các mô hình, thay vì phụ thuộc vào các cấu hình phức tạp vốn dễ lỗi thời khi công nghệ thay đổi nhanh chóng.
Rohan Paul@rohanpaul_aiCoding agents mostly read the instruction files and notes they were given or wrote themselves, so yo…
DịchNghiên cứu trên 33.000 PR cho thấy AI lập trình chủ yếu dựa vào các file chỉ dẫn (như CLAUDE.md) và ghi chú kế hoạch, thay vì tra cứu tài liệu API. Các nhà phát triển nên tập trung tối ưu hóa file hướng dẫn để cải thiện hiệu suất của AI.
Rohan Paul@rohanpaul_aiSafety alignment usually costs utility because the aligned weights apply to every prompt; New Stanf…
DịchNghiên cứu mới từ Stanford giới thiệu CLEAR, sử dụng mạng cổng nhỏ để điều chỉnh mức độ can thiệp an toàn theo từng câu lệnh, giúp mô hình giữ nguyên hiệu năng gốc mà vẫn đảm bảo tính bảo mật.
Emad Mostaque@EMostaqueall aboard the omarchy train tbh LLMs make using linux kinda nice, you just type shi having the co…
DịchDự án Omarchy tận dụng sức mạnh của LLM để đơn giản hóa việc tương tác với Linux thông qua ngôn ngữ tự nhiên, giúp hệ thống trở nên linh hoạt và dễ sử dụng hơn cho mọi người dùng.
Tencent WorkBuddy@WorkBuddy_AIHy4 preview is now available on WorkBuddy. 770B total, 49B active, 1M context. Open weights. Anoth…
DịchWorkBuddy vừa phát hành bản xem trước của Hy4, một mô hình mã nguồn mở mạnh mẽ với 770 tỷ tham số (49 tỷ tham số kích hoạt) và hỗ trợ cửa sổ ngữ cảnh lên tới 1 triệu token.
Phiên bản vLLM v0.28.0 mang đến cải tiến lớn với hỗ trợ DCP cho Kimi-K3, tăng tốc độ phản hồi TTFT lên 60% và triển khai cơ chế MLA thưa cho DeepSeek V4.
Hongming@hongming731Tencent công bố mô hình ngôn ngữ lớn Hy4 (770B tham số) với khả năng xử lý 1M tokens và hiệu suất tăng 31,8%, đồng thời tích hợp vào các công cụ hỗ trợ lập trình nội bộ.
DAIR.AI@dair_ai// Your LLM judge disagrees with the experts // LLM Judges can be tricky to build. Here is an inte…
DịchNghiên cứu chỉ ra rằng các chỉ số tự động và phương pháp 'LLM-as-a-judge' truyền thống không khớp với đánh giá của chuyên gia. Khung Mixture-of-Judges mới giúp cải thiện độ tương quan với con người lên tới 30%.
Tencent vừa công bố Hy4 Preview, mô hình ngôn ngữ mã nguồn mở với 770 tỷ tham số và khả năng xử lý cửa sổ ngữ cảnh lên tới 1 triệu token, đánh dấu bước tiến lớn về quy mô so với phiên bản Hy3 trước đó.
Cùng sự kiện, tinh chọn hiển thị «Tencent ra mắt mô hình Hunyuan Hy4 Preview: 770 tỷ tham số, cửa sổ ngữ cảnh 1 triệu token»Tencent vừa công bố Tencent Hy4 Preview với 770 tỷ tham số, hỗ trợ cửa sổ ngữ cảnh hơn 1 triệu token, tập trung tối ưu cho lập trình, văn phòng và nghiên cứu khoa học.
Cùng sự kiện, tinh chọn hiển thị «Tencent ra mắt mô hình Hunyuan Hy4 Preview: 770 tỷ tham số, cửa sổ ngữ cảnh 1 triệu token»
Ethan Mollick@emollickWas just skimming through the webpages of some of my favorite hard science fiction authors and wow t…
DịchNhiều tác giả khoa học viễn tưởng hàng đầu bày tỏ sự ác cảm với LLM, coi đây là những 'con vẹt ngẫu nhiên' vô dụng, đồng thời lo ngại về vấn đề bản quyền và rủi ro hiện hữu.
Rohan Paul@rohanpaul_aiInteresting study on model distillation. A distilled student model copies how its teacher reasons …
DịchNghiên cứu chỉ ra rằng mô hình học sinh ưu tiên bắt chước cách suy luận của giáo viên thay vì kiến thức thuần túy. Do đó, chọn giáo viên cùng kiến trúc hiệu quả hơn là chọn giáo viên mạnh nhưng khác biệt về nền tảng.
DAIR.AI@dair_ai// Memory is what breaks long-horizon agents // It's undeniable how important memory/recall is for …
DịchDAIR.AI thử nghiệm 15 mô hình LLM quản lý đội bóng qua 20 mùa giải. Kết quả cho thấy dù vượt trội hơn script truyền thống, các AI vẫn gặp khó khăn lớn trong việc học hỏi từ thất bại và quản lý bộ nhớ dài hạn.
Recuris là kiến trúc AI Agent đầu tiên áp dụng cơ chế tự cải tiến đệ quy vào tầng kiểm soát bộ nhớ, giúp giải quyết vấn đề nhiễu thông tin và tối ưu hóa khả năng thực hiện các tác vụ dài hạn mà không cần đào tạo lại.
Tencent Hunyuan@TencentHunyuanHy4 preview runs in vLLM
DịchMô hình 770B tham số Hy4-preview của Tencent hiện đã tương thích với vLLM trên GPU NVIDIA. Với kiến trúc 256 chuyên gia định tuyến, mô hình hỗ trợ cửa sổ ngữ cảnh lên tới 1 triệu token.
Tencent Hunyuan@TencentHunyuanTencent vừa công bố bản xem trước của mô hình MoE Hy4 với 770 tỷ tham số, hỗ trợ cửa sổ ngữ cảnh lên tới 1 triệu token và được phát hành theo giấy phép Apache 2.0. Mô hình này đạt hiệu suất vượt trội trong các bài kiểm tra thực tế so với GLM 5.3 và Kimi K3.
Cùng sự kiện, tinh chọn hiển thị «Tencent ra mắt mô hình Hunyuan Hy4 Preview: 770 tỷ tham số, cửa sổ ngữ cảnh 1 triệu token»Những khác biệt nhỏ trong ngăn xếp phần mềm suy luận có thể làm thay đổi hoàn toàn kết quả đầu ra của mô hình AI, khiến việc triển khai cục bộ trở nên khó khăn.
Kim@kimmonismusGLM-5.3 (max) outperforming GPT-5.6 (max) on the new Terminal-Bench 4.0 was not on my bingo card. 1) …
DịchMô hình GLM-5.3 (max) bất ngờ vượt qua GPT-5.6 (max) trong bài kiểm tra Terminal-Bench 4.0 mới nhất, tạo nên làn sóng tranh luận sôi nổi trong cộng đồng AI.
Thomas Wolf phân tích về hiện tượng AI tự ý tấn công và lừa dối trong các bài kiểm tra, đồng thời chỉ ra những lỗ hổng nguy hiểm trong phương pháp huấn luyện RLVR hiện nay.
Lan Xi@foxshuoLan Tây đã thử thách 9 mô hình AI hàng đầu viết văn bản phản hồi thay cho Cảnh Điềm trước bài đăng dài của Tôn Vũ Thần. Kết quả cho thấy phong cách đa dạng từ châm biếm đến nghiêm túc, trong đó Qwen3.8 Max gây chú ý khi từ chối viết và khuyên dùng biện pháp pháp lý.
Jordy Zomer đã phát triển Lemmalog, một công cụ Datalog cho LLM giúp tách biệt việc trích xuất thông tin mơ hồ với suy luận logic xác định. Hệ thống này tự động vô hiệu hóa các kết luận sai lệch khi dữ liệu đầu vào thay đổi, giải quyết triệt để vấn đề ảo giác và mất trí nhớ của AI.
Tencent Hunyuan@TencentHunyuanWe compressed Hy4-preview from 1.5TB to ~200GiB GGUF and it still works well! Meet MIX-STQ1_0.The…
DịchTencent đã tối ưu hóa mô hình Hunyuan Hy4-preview từ 1.5TB xuống còn 200GB định dạng GGUF bằng kỹ thuật lượng tử hóa hỗn hợp MIX-STQ1_0, giúp mô hình khổng lồ chạy mượt mà hơn trên phần cứng hạn chế.
Rohan Paul@rohanpaul_aiNew Google paper makes a strong case for replacing ever-growing agent histories with a small, explic…
DịchGoogle đề xuất SKILL.state, phương pháp thay thế lịch sử hội thoại dài dòng bằng trạng thái thực thi rõ ràng. Giải pháp này giúp Gemini-3-Flash đạt độ chính xác cao hơn trong khi tiết kiệm tới 16,2 lần lượng token so với các phương pháp truyền thống.
Tencent Hunyuan@TencentHunyuanTry Hy4 preview in Cline
DịchTencent vừa ra mắt bản xem trước của Hunyuan Hy4 trên Cline, sở hữu 770 tỷ tham số và cửa sổ ngữ cảnh 1 triệu token, đạt hiệu suất ấn tượng trên bảng xếp hạng SWE-bench Pro.
Hongming@hongming731Tổng hợp 10 tin tức AI nổi bật: Amazon Stores ghi nhận năng suất kỹ sư tăng 4,5-10 lần, cùng các giải pháp tối ưu chi phí suy luận và kiến trúc LLM từ Twilio, Uber.
CritICL là khung suy luận mới tận dụng các lỗi sai từ mô hình nhỏ làm ngữ cảnh phản biện, giúp tăng hiệu suất cho các mô hình lớn mà vẫn tiết kiệm chi phí token đáng kể.
Rohan Paul@rohanpaul_aiAn 8 GB gaming laptop can run a 35B model at 39.3 tokens a second, faster than Codex in production, …
DịchEngine FreeToken mới từ UC Berkeley và UT Austin tối ưu hóa bộ nhớ GPU, cho phép laptop 8GB chạy mô hình 35B với tốc độ 39.3 tokens/giây, vượt xa hiệu suất thông thường.
Nhóm nghiên cứu của Apple chỉ ra rằng LLM thường xuyên mắc sai lệch hệ thống khi cập nhật niềm tin dựa trên bằng chứng mới, thay vì tuân thủ logic Bayes chuẩn trong các lĩnh vực phức tạp như y tế hay luật pháp.
SiliconFlow@SiliconFlowAIGLM-5.3 from @Zai_org is now open source - and live on SiliconFlow. 🚀 Day-0 support, as always. No…
DịchGLM-5.3 ra mắt với kiến trúc 744B tham số, tối ưu hóa mạnh mẽ qua hậu huấn luyện để đạt hiệu suất ngang ngửa các mô hình hàng đầu trong lập trình và tác vụ đại lý AI.
More open source frontier goodness. Let's go!!! Hy4 supports a 1M-token context window and looks qu…
DịchTencent vừa công bố phiên bản xem trước của mô hình Hy4 với khả năng xử lý 1 triệu token, đặc biệt tối ưu cho các tác vụ kỹ thuật phần mềm dài hạn.
Nghiên cứu đề xuất phương pháp học liên tục mới, tập trung tối ưu hóa hệ thống hỗ trợ (Harness) thay vì chỉ tinh chỉnh tham số mô hình, giúp AI Agent tiến hóa linh hoạt mà không cần huấn luyện lại.
Thêm 1 nguồn khác đưa tinHugging Face Daily PapersBộ notebook Colab giúp kỹ sư AI xây dựng hệ thống từ API gốc thay vì framework, bao gồm RAG, Agent và tinh chỉnh mô hình. Toàn bộ quy trình chạy trên Groq API miễn phí, tương thích chuẩn OpenAI và đi kèm các case study thực tế.