Elvis Saravia@omarsar0Great paper from AWS. I use a similar setup where an agent orchestrator sits on top of a multi-agen…
DịchAWS đề xuất UnitBoost, phương pháp sử dụng bản đồ đơn vị để chuyển đổi đầu ra của các mô hình thành giá trị cụ thể, loại bỏ nhu cầu về tác nhân quản lý (meta-agent) phức tạp trong các hệ thống LLM đa nhiệm.
Nghiên cứu xác định ngưỡng lý thuyết thông tin để phục hồi tín hiệu thưa từ các phép đo nhiễu, làm rõ sự đánh đổi giữa độ phức tạp tính toán và hiệu quả lấy mẫu khi sử dụng ma trận đo thưa.
DAIR.AI@dair_aiIf you run automated prompt or harness evolution, this one is worth your time. (bookmark it) Seman…
DịchRobustSGPO bổ sung cơ chế kiểm soát chỉnh sửa cho tối ưu hóa gợi ý gradient ngữ nghĩa, giúp cải thiện đáng kể tỷ lệ hoàn thành nhiệm vụ và chất lượng đầu ra trong các quy trình làm việc của Agent.
DeepSeek vừa phát hành mô hình đa phương thức V4.1-Flash theo giấy phép MIT trên Hugging Face, tập trung tối ưu hóa chi phí xử lý ngữ cảnh dài và nén bộ nhớ KV cache cho các tác vụ AI Agent.
Cùng sự kiện, tinh chọn hiển thị «DeepSeek ra mắt DeepSeek-V4.1-Flash: Cửa sổ 1M token, tối ưu bộ nhớ KV Cache cực đỉnh»Nvidia hợp tác cùng Palantir triển khai AI để quản lý chuỗi cung ứng phức tạp, bắt đầu bằng việc tối ưu hóa hệ thống hàng triệu linh kiện và hàng nghìn nhà cung cấp của chính mình.
Thêm 1 nguồn khác đưa tinArtificial Intelligence News (Web)
SemiAnalysis@SemiAnalysis_Congrats to @deepseek_ai on releasing DeepSeek-V4.1-Flash! > 552B backbone, with a causal encode…
DịchDeepSeek-V4.1-Flash sở hữu kiến trúc 552B tham số nhưng chỉ kích hoạt 8B-16B khi vận hành. Nhờ bộ nhớ Engram 196B và kỹ thuật nén KV cache, mô hình đạt hiệu suất vượt trội với tài nguyên tối ưu.
Hugging Face giới thiệu Workflow1111, sử dụng 73 node Gradio để tái lập hầu hết các tính năng chủ chốt của AUTOMATIC1111, từ tạo ảnh, inpaint, ControlNet đến hỗ trợ video, mang lại trải nghiệm linh hoạt và trực quan hơn.
Theo báo cáo từ Ramp, chi phí AI bình quân đầu người tại nhóm 1% doanh nghiệp chi tiêu mạnh nhất ở Mỹ đã giảm 9,7% xuống còn 7.205 USD trong tháng 8, một phần do yếu tố mùa vụ.
Nghiên cứu đề xuất HybridAL, phương pháp tự động chuyển đổi giữa huấn luyện lại từ đầu và tinh chỉnh (fine-tuning) dựa trên tín hiệu ổn định của mô hình, giúp tiết kiệm tài nguyên mà vẫn duy trì hiệu suất tối ưu.
Peter Steinberger@steipeteFinally got cloud sessions working *fast* in OpenClaw. Remote Terminal, WebVNC and CUA for computer …
DịchOpenClaw vừa đạt được bước tiến lớn trong việc tăng tốc các phiên làm việc từ xa, bao gồm terminal, WebVNC và giao diện điều khiển máy tính CUA.
Φ-Bench là bộ tiêu chuẩn mới giúp đánh giá năng lực của LLM trong việc giải quyết các bài toán kỹ thuật phức tạp, từ tối ưu hóa kernel đến xây dựng hệ thống hạ tầng AI hoàn chỉnh dựa trên mã nguồn thực tế.
AgenticGen tối ưu hóa việc tạo video quảng cáo bằng cách kết hợp chiến lược và tạo bản thảo, sử dụng phản hồi từ hiệu suất kinh doanh thực tế để tinh chỉnh chất lượng video thay vì chỉ dựa vào hình ảnh đơn thuần.
Nghiên cứu chỉ ra rằng việc huấn luyện LLM trên toàn bộ chuỗi suy luận dài không mang lại nhiều lợi ích. Thay vào đó, các chuỗi rút gọn vẫn đảm bảo hiệu quả, giúp mô hình tránh được các thông tin dư thừa không cần thiết.
Graph Machine (GM) là kiến trúc mới sử dụng các 'cạnh' (edges) linh hoạt để truy xuất dữ liệu, giúp duy trì độ phức tạp O(n) mà vẫn đảm bảo tính thưa thớt hiệu quả. Phương pháp này cho phép thay thế phần lớn các lớp Transformer truyền thống với hiệu suất vượt trội và chi phí tính toán thấp.
Elvis Saravia@omarsar0Highly recommended. Model-harness co-optimization is where you design the harness for the task and t…
DịchElvis Saravia nhấn mạnh việc tối ưu hóa đồng bộ giữa mô hình và khung làm việc (harness engineering) là yếu tố then chốt để khai phá tiềm năng thực sự của AI, thay vì chỉ tinh chỉnh mô hình đơn thuần.
Chuyên gia từ Google AI phân tích 4 thất bại phổ biến khi xây dựng hệ thống tác tử tự lặp (Loop Engineering) và đưa ra các giải pháp tối ưu để đạt mục tiêu hiệu quả.
Databricks ra mắt Adaptive Instructed-Retriever, giải pháp tối ưu hóa tìm kiếm cho AI doanh nghiệp giúp giảm độ trễ gấp 2 lần mà vẫn duy trì độ chính xác vượt trội.
ModelBest OpenBMB@OpenBMBSame Q4_K_M quant, same tasks, same success rate, MiniCPM5-2B can get tasks done quicker. This makes…
DịchMô hình MiniCPM5-2B của OpenBMB vượt trội hơn Qwen3.5-4B với tốc độ xử lý nhanh hơn 34% trong các tác vụ thực tế, mở ra tiềm năng lớn cho các ứng dụng AI chạy trực tiếp trên thiết bị.
Emad Mostaque@EMostaqueAdaptive self improvement https://ii.inc/blog/post/zenith
DịchMeta-Zenith đã tự động tối ưu hóa mô hình Qwen3.8-27B, giúp tăng 63,5% lưu lượng xử lý và cải thiện tốc độ gấp 4,1 lần ở ngữ cảnh 65K mà không cần can thiệp thủ công.
A*-Thought-V2 cải thiện hiệu suất suy luận bằng cách mô hình hóa chuỗi tư duy dưới dạng quỹ đạo trạng thái ẩn, giúp tăng độ chính xác lên 2,6% và giảm đáng kể thời gian tính toán cũng như tài nguyên huấn luyện.
SQS là khung làm việc thống nhất kết hợp cắt tỉa và lượng tử hóa bit thấp thông qua học biến phân Bayes, giúp nén mô hình hiệu quả hơn mà vẫn duy trì độ chính xác cao.
DAIR.AI@dair_aiGood work on improving memory for long-horizon agents. They separate two things that agent memory p…
DịchRSM-full tách biệt quy trình ghi và đọc bộ nhớ, cho phép các tác nhân AI xử lý ngữ cảnh dài hiệu quả hơn. Với ngân sách 4k token, phương pháp này vượt trội hơn các mô hình RAG truyền thống và đạt hiệu suất tương đương với toàn bộ ngữ cảnh gốc.
BeaconKV giải quyết nút thắt bộ nhớ khi suy luận dài bằng cách xác định các 'Thought Revisiting Tokens' quan trọng, giúp nén KV cache hiệu quả mà không làm giảm khả năng truy xuất ngữ cảnh xa.
Phương pháp On-Policy Reverse Distillation (OPRD) cho phép mô hình AI học từ giáo viên yếu nhưng vẫn đạt hiệu suất vượt trội, nhờ cơ chế lọc và khuếch đại các cập nhật tối ưu từ trình xác thực.
AK@_akhaliqUnlocking Lossless Speedups in LLMs via Discrete Diffusion paper: https://huggingface.co/papers/260...
DịchNghiên cứu mới giới thiệu phương pháp sử dụng mô hình khuếch tán rời rạc (discrete diffusion) để tăng tốc độ xử lý cho các mô hình ngôn ngữ lớn mà vẫn đảm bảo độ chính xác tuyệt đối.
SemiAnalysis@SemiAnalysis_Spec Decoding (DSpark) finally works with Pipeline Parallelism in vLLM!! 🔥 A lot of the GPU poor/pr…
DịchvLLM hiện đã cho phép DSpark hoạt động cùng Pipeline Parallelism, giúp các mô hình siêu lớn (như Kimi K3 2.8T) tận dụng được khả năng suy luận dự đoán ngay cả khi phải chia nhỏ trọng số trên nhiều máy.
Cohere@cohereIntroducing the next evolution in LLM text generation: the first fully-fledged serving system built …
DịchCohere vừa giới thiệu hệ thống phục vụ tạo văn bản LLM dựa trên kiến trúc decode megakernel, mang lại hiệu suất vượt trội so với vLLM và được phát hành hoàn toàn dưới dạng mã nguồn mở.
Bài viết thử nghiệm hiệu năng của các phiên bản nén GGUF (Unsloth) trên mô hình Qwen3.8 27B qua các bộ benchmark GPQA Diamond, IFBench và Terminal-Bench 2.1.
Lauren Tan@potetopstack 0.15.0 is here! this release contains mainly token usage improvements (between 3 to 11% savin…
DịchPhiên bản pstack 0.15.0 cải thiện hiệu suất sử dụng token từ 3-11% tùy theo số lượng kỹ năng, đồng thời bổ sung các nguyên tắc mới giúp tinh gọn quy trình kiểm thử và loại bỏ các nội dung dư thừa.
Rohan Paul@rohanpaul_aiUno shows a simple way to speed up existing LLMs without changing their output distribution: keep th…
DịchUno tối ưu hóa suy luận LLM bằng cách sử dụng mô hình khuếch tán để dự đoán song song nhiều token mà không làm thay đổi chất lượng đầu ra. Phương pháp này giúp tăng thông lượng lên tới 2,5 lần và đẩy nhanh quá trình huấn luyện RL tới 40% trên mô hình Qwen3-8B.
Nghiên cứu giới thiệu khung Conformal Relevance giúp tối ưu hóa độ chính xác và sự cô đọng của văn bản thông qua việc kết hợp các ví dụ học trong ngữ cảnh, giảm thiểu đáng kể công sức thiết kế prompt thủ công.
AI Notes@AYi_AInotesKiến trúc sư Brij Kishore Pandey đề xuất chia nhỏ file CLAUDE.md theo phân cấp thư mục để tránh quá tải ngữ cảnh cho AI Agent, kết hợp cùng hệ thống kỹ năng và kiểm soát quy trình chuyên biệt.
Nghiên cứu giới thiệu phương pháp kết hợp mô hình khuếch tán vào LLM để tạo nhiều token song song, giúp tăng tốc độ suy luận mà không làm giảm độ chính xác so với cách dự đoán tuần tự truyền thống.
Rohan Paul@rohanpaul_aiFor hard long-context tasks, the paper suggests a simple fix: run the model again with its previous …
DịchPhương pháp mới sử dụng dấu vết suy luận làm trạng thái điều kiện, giúp mô hình tập trung vào các điểm trọng yếu trong ngữ cảnh dài, giải quyết triệt để tình trạng bỏ lỡ thông tin quan trọng. Kết quả thử nghiệm cho thấy hiệu suất vượt trội trong 26/27 bài kiểm tra.
Phương pháp TGOPD cải thiện quá trình chưng cất mô hình bằng cách kiểm tra độ tin cậy của giáo viên ở cấp độ prompt trước khi áp dụng giám sát, giúp tránh việc học theo các phản hồi sai lệch.
Microsoft hứa hẹn sẽ giảm bớt sự can thiệp của Copilot, cải thiện tốc độ khởi động và tối ưu hóa trải nghiệm tùy biến thanh tác vụ trên Windows 11 dựa trên phản hồi từ cộng đồng.
Đội ngũ vLLM công bố tối ưu hóa hiệu suất cho các tác vụ AI Agent, đạt tốc độ ấn tượng 83K tokens/giây trên mỗi GPU với mô hình DeepSeek V4 Pro dựa trên chuẩn AgentX.
Konstantin Ryabitsev tiết lộ kernel.org phải dành riêng 14 nhân CPU để xử lý việc render trang git sang HTML do các bot cào dữ liệu gây ra, tiêu tốn tài nguyên hơn cả các lượt truy cập hợp lệ.
Rohan Paul@rohanpaul_aiLetting research agents talk too early can make them follow the same wrong idea, so isolate some sea…
DịchArcticSwarm giải quyết vấn đề 'đồng thuận sớm' bằng cách cô lập kết quả tìm kiếm giữa các tác nhân AI, giúp tăng độ chính xác lên 82.6% trên BrowseComp-Plus, vượt xa phương pháp bỏ phiếu truyền thống.
Kim@kimmonismusOne of the most reliable posts. I wonder when Anthropic will finally address this problem. They m…
DịchCộng đồng đang tranh luận gay gắt về việc các mô hình của Anthropic dù giải quyết được nhiều bài toán khoa học phức tạp nhưng lại thiếu sự tối ưu, gây lãng phí thời gian và tài nguyên vì phản hồi quá dài dòng.
