Elvis Saravia@omarsar0Pay attention to this new wave of System One models if you are building custom harnesses. First Je…
DịchCLM-8B là mô hình System One sử dụng mục tiêu học tương phản, mang lại hiệu suất vượt trội trong các tác vụ điều khiển máy tính, chơi game và gọi công cụ với tốc độ nhanh gấp 9 lần so với Jev.
Thêm 1 nguồn khác đưa tinMarkTechPostNghiên cứu giới thiệu phương pháp loại bỏ 6 lớp ít quan trọng nhất trong bộ mã hóa Whisper, giúp giảm 18,5% kích thước mô hình mà không cần thay đổi cấu trúc suy luận. Hiệu suất được khôi phục ấn tượng thông qua kỹ thuật chưng cất từ dữ liệu âm thanh không nhãn.
Bằng cách tinh gọn bộ công cụ xuống còn 11 chức năng cơ bản và tích hợp MiniCPM XML tool adapter, MiniCPM5-2B đã khắc phục lỗi sai lệch lệnh, cho phép chạy mượt mà trên thiết bị cá nhân và giải thành công đề toán cao cấp.
ALPINE là kiến trúc phân loại ảnh siêu nhẹ, đạt độ chính xác vượt trội so với các mô hình truyền thống như MAML hay Prototypical Networks dù sử dụng ít tham số hơn tới 53% và hội tụ nhanh hơn.
Perplexity@perplexity_aiNew research: We post-trained a Computer model to learn from its own errors using hint-guided self-d…
DịchPerplexity giới thiệu phương pháp tự chưng cất (self-distillation) giúp mô hình máy tính tự học từ sai lầm, qua đó giảm 21,2% tỷ lệ lỗi khi thực hiện các lệnh gọi công cụ trong thực tế.
Elvis Saravia@omarsar0Own your intelligence stack, folks. You can't scale a company to the frontier by renting intelligen…
DịchElvis Saravia nhấn mạnh doanh nghiệp cần tự chủ công nghệ thay vì chỉ thuê ngoài. Bằng cách tối ưu hóa quy trình hậu đào tạo và hệ thống đánh giá, startup Harvey đã chuyển từ lỗ sang lãi chỉ trong một quý dù quy mô sử dụng tăng gấp đôi.
TAPe+ML v3 là hệ thống thị giác máy tính đột phá với chưa đầy 100.000 tham số, sử dụng lý thuyết nhận thức chủ động để xử lý hiệu quả các tác vụ phân loại, phát hiện vật thể và phân đoạn ảnh với độ chính xác ấn tượng.
Harness-Zero giới thiệu phương pháp 'agent-as-harness' giúp chuyển giao hành vi tối ưu từ các khung làm việc phức tạp trực tiếp vào trọng số mô hình, giúp AI duy trì hiệu suất cao ngay cả khi không còn phụ thuộc vào khung hỗ trợ.
Một phòng thí nghiệm học thuật khởi xướng 'Tuần lễ mã nguồn mở', chứng minh khả năng chạy mô hình Qwen 3.6 35B-A3B trên Mac với tốc độ ấn tượng 450 tokens/giây nhờ kỹ thuật lượng tử hóa 1.5-bit.
IntBMoE giải quyết bài toán đánh đổi giữa hiệu năng, chi phí tính toán và bộ nhớ trong mô hình MoE bằng cách kết hợp kỹ thuật trộn chuyên gia dày đặc với cơ chế thực thi khối thưa thớt, cho phép kiểm soát độc lập các thông số này.
Nghiên cứu giới thiệu ActObs, phương pháp giám sát các token quan sát trong giai đoạn SFT mà không làm tăng dữ liệu hay chi phí tính toán, giúp cải thiện khả năng khám phá của tác nhân trong học tăng cường.
Vision-RL2 sử dụng học tăng cường cấp vùng để tối ưu hóa mạng đề xuất khu vực trong MLLM mà không cần nhãn dữ liệu, giúp cải thiện độ chính xác vượt trội với số lượng token thị giác ít hơn gấp 4 lần.
Trong bối cảnh giới toán học lo ngại về việc AI 'đánh cắp' ý tưởng trên đám mây, StartLux gây chú ý khi đạt hiệu suất vượt trội với mô hình 27B. Chúng tôi thảo luận về cách họ tối ưu hóa hậu huấn luyện để đạt kết quả ấn tượng dù quy mô tham số nhỏ.
karminski@karminski3@UnslothAI guys, we need unsloth/K2-Horizon-7B-GGUF-UD-Q4_K_XL.gguf
DịchNgười dùng trên X đang tích cực yêu cầu Unsloth sớm ra mắt định dạng GGUF (Q4_K_XL) cho mô hình K2-Horizon-7B để tối ưu hóa hiệu suất chạy trên các thiết bị cá nhân.
AI Notes@AYi_AInotesChuyên gia đánh giá cao kiến trúc CED 20-20 lớp của DeepSeek V4.1 Flash, cho phép tối ưu hóa hiệu suất vượt trội với lượng tham số kích hoạt cực thấp và giảm dung lượng bộ nhớ KV xuống chỉ còn 1/4 so với thế hệ trước.
Nghiên cứu đề xuất phương pháp viết lại phản hồi dựa trên tầm ảnh hưởng (IF) thay vì chỉ thay đổi trọng số, giúp tối ưu hóa khả năng điều chỉnh hành vi của mô hình LLM hiệu quả hơn.
Nghiên cứu chỉ ra rằng việc tối ưu hóa hệ thống hỗ trợ (harness) giúp mô hình nhỏ đạt hiệu suất cao, nhưng việc huấn luyện bắt chước từ chuyên gia lại gây phản tác dụng, đòi hỏi phương pháp hiệu chỉnh on-policy thay thế.
CoVeR là bộ chọn token thị giác không cần huấn luyện, giúp tối ưu hóa suy luận 3D đa góc nhìn bằng cách loại bỏ token dư thừa. Chỉ với 8% lượng token, mô hình vẫn duy trì 93,5% hiệu suất, vượt qua các phương pháp hiện có tới 3,9 điểm phần trăm.
Nghiên cứu chỉ ra rằng việc lượng tử hóa trạng thái trong mạng hồi quy (RNN) có thể gây sai số nghiêm trọng khi dự đoán các thông số sinh học. Việc lưu trữ trạng thái 4-bit làm tăng sai số dự báo lên gấp hàng trăm lần so với mô hình gốc.
GAPO cải tiến phương pháp GRPO bằng cách điều chỉnh ngưỡng cắt tỉa dựa trên lợi thế của từng nhóm, giúp tối ưu hóa tín hiệu học tập từ các mẫu dữ liệu khó và nâng cao hiệu quả huấn luyện mô hình RL.
Rohan Paul@rohanpaul_aiWhat if you could pay the reasoning cost once, then reuse what the model learned across future tasks…
DịchNghiên cứu mới từ Microsoft cho phép chuyển đổi chi phí suy luận đắt đỏ thành các 'kỹ năng' dạng Markdown. Bằng cách tổng hợp các mẫu lỗi từ lịch sử, mô hình nhỏ có thể khôi phục 55-100% khả năng suy luận mà không cần tốn thêm token.
LatentPress giới thiệu phương pháp nén tài liệu và lịch sử hội thoại thành các token bộ nhớ liên tục, cho phép mô hình AI đọc trực tiếp mà không cần giải mã văn bản, giúp tăng hiệu suất xử lý dữ liệu dài gấp 4-16 lần.
WHALE là kỹ thuật mới giúp tối ưu hóa song song trọng số mô hình và mã điều khiển (harness) thông qua quy trình luân phiên, giúp khai thác tối đa năng lực của AI thay vì chỉ tinh chỉnh từng phần riêng lẻ.
DAIR.AI@dair_aiInteresting technical work from Microsoft. Provides a better understanding on SFT and how to levera…
DịchMicrosoft giới thiệu TailSFT, kỹ thuật lọc dữ liệu giúp mô hình tập trung vào các phần chưa tối ưu thay vì lãng phí tài nguyên vào những gì đã học tốt, từ đó cải thiện đáng kể khả năng lập trình và toán học sau khi huấn luyện tăng cường (RL).
Rohan Paul@rohanpaul_aiSafety alignment usually costs utility because the aligned weights apply to every prompt; New Stanf…
DịchNghiên cứu mới từ Stanford giới thiệu CLEAR, sử dụng mạng cổng nhỏ để điều chỉnh mức độ can thiệp an toàn theo từng câu lệnh, giúp mô hình giữ nguyên hiệu năng gốc mà vẫn đảm bảo tính bảo mật.
Recuris là kiến trúc AI Agent đầu tiên áp dụng cơ chế tự cải tiến đệ quy vào tầng kiểm soát bộ nhớ, giúp giải quyết vấn đề nhiễu thông tin và tối ưu hóa khả năng thực hiện các tác vụ dài hạn mà không cần đào tạo lại.
AI Notes@AYi_AInotesNghiên cứu WikiSkill từ Google đề xuất chia thư viện kỹ năng thành 3 tầng: quỹ đạo gốc, đúc kết nhận thức và sổ tay thực thi. Việc lưu trữ các thất bại giúp mô hình nhỏ đạt hiệu suất vượt trội, nhưng cần cẩn trọng vì dữ liệu kém chất lượng có thể làm giảm đáng kể khả năng của AI.
Anthropic đạt bước tiến mới khi để Claude tự tối ưu hóa mô hình với chi phí cực thấp, đánh dấu cột mốc quan trọng trong kỷ nguyên AI tự tiến hóa.
TTPO giới thiệu phương pháp tự học không cần nhãn bằng cách sử dụng bình chọn đa số làm nhãn giả và học tăng cường nhóm để tinh chỉnh mô hình. Kỹ thuật này giúp cải thiện đáng kể hiệu suất suy luận toán học của các mô hình nhỏ như Qwen3-1.7B, đạt kết quả ngang ngửa với phương pháp có giám sát.
TaoLive giới thiệu phương pháp Harness-Aware Training (HAT) giúp các mô hình AI nhỏ gọn thích nghi nhanh chóng với các thay đổi về kịch bản, công cụ và chiến lược marketing mà không cần huấn luyện lại, đảm bảo độ trễ thấp cho livestream.
Elvis Saravia@omarsar0If you maintain a skill library for long-horizon agents, this one is worth your time. (bookmark it) …
DịchRecuris tối ưu hóa khả năng xử lý của AI bằng cách tách biệt bộ nhớ làm việc và bộ nhớ kinh nghiệm, giúp mô hình đưa ra quyết định dựa trên trạng thái nhiệm vụ thay vì lịch sử dữ liệu thô. Giải pháp này cải thiện đáng kể tỷ lệ thành công trên các tác vụ phức tạp và giảm tới 80% lỗi thường gặp.
Tencent đã tối ưu hóa mô hình Hy-MT2-1.8B bằng kỹ thuật lượng tử hóa cực thấp, giúp đạt hiệu suất dịch thuật vượt trội trên Bilibili với tốc độ phản hồi chỉ từ 500-800ms.
Nghiên cứu giới thiệu OraRL, phương pháp mới tận dụng dữ liệu chú giải làm 'oracle rollout' để cải thiện hiệu suất học tăng cường cho mô hình MLLM video, giải quyết vấn đề đảo ngược lợi thế trong quá trình huấn luyện.
Kỹ thuật Ngữ cảnh đang trở thành phương pháp then chốt để xây dựng ứng dụng LLM đáng tin cậy, tập trung vào việc chủ động quản lý đầu vào thay vì chỉ dựa vào khả năng tự thân của mô hình.
CLEAR là khung điều chỉnh an toàn mới sử dụng cổng điều khiển ẩn để kích hoạt bộ điều hợp LoRA linh hoạt, giúp giảm phản hồi độc hại mà vẫn giữ nguyên chất lượng câu trả lời cho các truy vấn thông thường.
DAIR.AI@dair_aiMicrosoft giới thiệu Agent Lightning v1.0 giúp tích hợp Agent vào học tăng cường mà không cần viết lại code, đồng thời cải thiện đáng kể hiệu suất mô hình Qwen3.5-9B. Ngoài ra, các nghiên cứu mới còn giải quyết tình trạng quá tải kỹ năng và đề xuất phương pháp đo lường hiện tượng 'quên' trong mô hình AI.
Rohan Paul@rohanpaul_aiYou can now RL-train an agent through the same complex harness it will actually run in, without need…
DịchKhung ClawGym II tích hợp OpenClaw và Claude Code như các hệ thống hộp đen vào quy trình huấn luyện RL, giúp cải thiện đáng kể điểm số trên các bộ benchmark như ClawGym-Bench mà không cần can thiệp vào cấu trúc nội tại của mô hình.
Unsloth vừa giới thiệu định dạng Dynamic 3.0 GGUF, tập trung vào việc cải thiện hiệu suất và khả năng tương thích cho các mô hình ngôn ngữ lớn khi chạy trên thiết bị cá nhân.
Nghiên cứu trên ProcessBench chỉ ra rằng việc đưa quy trình 'kiểm toán - sửa lỗi' vào ngữ cảnh giúp LLM giảm 9-25% tỷ lệ báo động giả. Kết quả cho thấy mô hình không mất khả năng phân biệt mà chỉ điều chỉnh ngưỡng phán đoán, giúp việc kiểm chứng trở nên chính xác và hiệu quả hơn.
Taichu Yuanji chính thức khởi động hạng mục thi đấu về tối ưu hóa mô hình trên chip tăng tốc AI, nằm trong khuôn khổ cuộc thi AI+ Giáo dục cấp quốc gia nhằm thúc đẩy ứng dụng công nghệ trong giảng dạy.