Rohan Paul@rohanpaul_aiVery useful insight in this paper. AI agents may be wasting huge amounts of effort rediscovering t…
DịchNghiên cứu DisCo giới thiệu cách chuyển đổi kho lưu trữ GitHub và tài liệu kỹ thuật thành các 'kỹ năng' tinh gọn, giúp AI tự chủ trong việc chọn công cụ và xử lý lỗi, từ đó nâng cao đáng kể hiệu suất giải quyết tác vụ thực tế.
MiniMax@MiniMax_AIOpen models are changing the cost equation for production AI. On September 16, MiniMax and @togethe…
DịchMiniMax và Together AI sẽ thảo luận về tối ưu hóa chi phí, lựa chọn mô hình và chiến lược triển khai các mô hình mã nguồn mở trong môi trường thực tế tại sự kiện diễn ra ở London.
Nghiên cứu Minima chứng minh khả năng duy trì hiệu suất vượt trội của kiến trúc Gated DeltaNet khi áp dụng định dạng lượng tử hóa NVFP4 W4A4 trên toàn bộ các lớp tuyến tính của mô hình Qwen3.8-27B.
Rohan Paul@rohanpaul_aiNew Stanford paper Prefix Sliding shows that long reasoning does not need the full chain of thought …
DịchPhương pháp Prefix Sliding cho phép mô hình AI lược bỏ các token suy luận trung gian, chỉ giữ lại tiền tố nhiệm vụ và cửa sổ trượt gần nhất, giúp tối ưu hóa tốc độ suy luận gấp 3 lần mà không làm giảm hiệu suất.
Alibaba Cloud@alibaba_cloud🚀 A better AI shouldn't just be faster-it should get more real work done with less budget. Qwen3.8-…
DịchAlibaba Cloud vừa tích hợp Qwen3.8-Flash vào chế độ Standard của QwenWork, giúp tối ưu hóa hiệu suất vượt trội với tốc độ xử lý nhanh gấp đôi và tiết kiệm đáng kể chi phí token cho người dùng.
Kim@kimmonismusA 753B model reads the problem: A 4B model writes the answer. Mostik reports that its latent bridge…
DịchMostik giới thiệu giao thức cầu nối không gian ẩn cho phép mô hình 4B nhận dữ liệu trực tiếp từ mô hình 753B mà không cần tinh chỉnh. Giải pháp này giúp tăng tốc độ xử lý gấp 20 lần và tiết kiệm 2,5 lần tài nguyên tính toán trong khi vẫn duy trì 80% độ chính xác của mô hình lớn.
CASTER là phương pháp thích nghi thời gian thực (TTA) không cần gradient, giúp điều chỉnh phân phối dữ liệu mà không cần cập nhật trọng số mô hình. Giải pháp này đặc biệt hiệu quả cho các thiết bị hạn chế bộ nhớ hoặc các mô hình bị khóa tham số.
Nghiên cứu giới thiệu cách tách biệt giao thức điều khiển khỏi nội dung dữ liệu trong hệ thống đa tác nhân, giúp đảm bảo tính ổn định của quy trình làm việc mà vẫn tối ưu hóa hiệu quả thực thi nhiệm vụ.
Google DeepMind cập nhật khả năng xử lý video thông minh cho dòng Gemini Flash, giúp mô hình tự động quét các phân đoạn quan trọng. Công nghệ này giúp giảm 88% lượng token, tiết kiệm 66% chi phí và tăng 7% độ chính xác so với phương pháp xử lý khung hình cố định truyền thống.
Diễn biến sự kiện · 2 bài →Thêm 4 nguồn khác đưa tinX: Google AI for Developers (@googleaidevs)X: Logan Kilpatrick (@OfficialLoganK)X: Google DeepMind (@GoogleDeepMind)The Decoder: AI News
Elvis Saravia@omarsar0CEO Shopify chia sẻ về việc mô hình 0.8B được tinh chỉnh chuyên biệt đã vượt qua các siêu mô hình lớn nhờ cơ chế tự cải tiến liên tục, mở ra xu hướng doanh nghiệp tự xây dựng hệ sinh thái AI riêng để tạo lợi thế cạnh tranh.
Tencent Hunyuan@TencentHunyuanOne more thing about Hy4 preview that is particularly interesting. In AI research. Hy4 preview found…
DịchTencent giới thiệu Hunyuan Hy4 Preview với 770B tham số và cửa sổ ngữ cảnh 1M. Điểm nhấn là khả năng tự phát hiện nút thắt suy luận, giúp tăng 31,8% lưu lượng xử lý thực tế, hướng tới tối ưu chi phí cho doanh nghiệp.
Đội ngũ Tencent Hunyuan vừa phát hành phiên bản rút gọn Hy4 Preview dưới dạng mã nguồn mở, cho phép tối ưu hóa dung lượng từ 1.5TB xuống còn 214GB và hỗ trợ suy luận trên các thiết bị không đồng nhất.
Elon Musk@elonmuskAutomatic token optimization to lower your Grok @Bot cost will be added soon
DịchElon Musk thông báo Grok sắp cập nhật tính năng tự động tối ưu hóa token nhằm giảm chi phí vận hành, thông qua việc quản lý ngữ cảnh thông minh và lưu trữ các phản hồi để tái sử dụng cho các tác vụ chuyên biệt.
DAIR.AI@dair_aiGreat paper from Google and colleagues. It proposes an interesting approach to improve agents on lo…
DịchGoogle đề xuất SKILL.state, thay thế lịch sử hội thoại cồng kềnh bằng trạng thái thực thi rõ ràng, giúp AI xử lý tác vụ dài nhanh hơn, chính xác hơn và tiết kiệm token hơn.
Kim@kimmonismusAI agents produce a mountain of logs and still repeat the same mistake next week. Reflexio turns co…
DịchReflexio là nền tảng giúp AI tự cải thiện thông qua việc chuyển đổi phản hồi từ người dùng thành các quy tắc vận hành. Công cụ này giúp giảm 36% tỷ lệ lỗi, cải thiện 47% chất lượng phản hồi và cắt giảm 57% chi phí token cho các tác vụ tương tự.
Microsoft Research@MSFTResearchWhat if pathology foundation models could do more with less? GigaPath-Flash and GigaTIME-Flash cut c…
DịchGigaPath-Flash và GigaTIME-Flash tối ưu hóa nhu cầu tính toán cho các mô hình bệnh lý học mà vẫn duy trì hiệu năng vượt trội, mở ra tiềm năng cho các nghiên cứu y khoa quy mô lớn.
Thay vì tốn kém huấn luyện lại mô hình, các nhà nghiên cứu đang thử nghiệm phương pháp 'Strong-to-Weak Scaffolding', nơi AI mạnh thiết kế quy trình làm việc tối ưu để nâng cấp năng lực cho AI yếu hơn, mở ra kỷ nguyên AI4AI đầy tiềm năng.
Aphanta là khung chẩn đoán tự động giúp đánh giá và cải thiện hiệu quả của các công cụ chỉnh sửa ảnh trong quy trình suy luận đa phương thức, giúp tăng đáng kể độ chính xác của các tác vụ phức tạp.
Experiential là giải pháp mã nguồn mở giúp quản lý, điều phối và tối ưu hóa các mô hình AI thông qua API tương thích với OpenAI, hỗ trợ kiểm soát chi phí và hiệu suất cho các quy trình làm việc của AI Agent.
MiniMax@MiniMax_AIA great deep dive from the @fal team on how they built H3 Max, combining post-training with a co-des…
DịchMiniMax chúc mừng đội ngũ fal ra mắt H3 Max, phiên bản được tinh chỉnh từ mô hình H3 nhằm nâng cao khả năng tuân thủ câu lệnh và chất lượng hình ảnh, đồng thời tối ưu hóa tốc độ suy luận mà không làm giảm hiệu suất.
Congrats to the fal team on MiniMax H3 Max - fantastic work! A quick note on what's actually happen…
DịchMô hình H3 Max (dựa trên nền tảng H3 của MiniMax) vừa đạt vị trí dẫn đầu về chất lượng video và khả năng hiểu prompt. Nhờ tối ưu hóa SGLang và Sol-Attention, mô hình đạt tốc độ tạo video 5 giây chỉ trong dưới 3 giây, nhanh gấp 3,95 lần so với thông thường.
Nhóm SGLang Diffusion thử nghiệm MiniMax-H3 trên 8 GPU NVIDIA H200, đạt tốc độ nhanh gấp 1,95 lần so với Diffusers mà không làm giảm chất lượng hình ảnh.
ModelBest OpenBMB@OpenBMB🔥 MiniCPM Spark Program S1: Cost Optimization with MiniCPM Can you make AI more efficient without …
DịchOpenBMB chính thức phát động chương trình MiniCPM Spark S1, kêu gọi các nhà phát triển và nghiên cứu chia sẻ các giải pháp tối ưu hóa mô hình, API, triển khai và phối hợp giữa thiết bị với đám mây.
RetrievalRouter là bộ định tuyến nhẹ giúp tự động chọn quy trình truy xuất phù hợp nhất cho từng truy vấn, giúp cân bằng hiệu quả giữa độ chính xác và tốc độ phản hồi trong các lĩnh vực chuyên sâu như tài chính và khoa học.
Alibaba vừa giới thiệu mô hình Qwen3.8-Flash với chế độ tiêu chuẩn mới, giúp tăng gấp đôi tốc độ tạo nội dung và giảm đáng kể chi phí token, tối ưu hóa mạnh mẽ cho các tác vụ văn phòng.
Qwen@Alibaba_QwenFantastic! 🥳 Thanks @lightseekorg for the TokenSpeed day-0 support. The new architecture is fully c…
DịchTokenSpeed đã cập nhật hỗ trợ Day-0 cho kiến trúc mới của Qwen 3.8 Flash Next, tối ưu hóa toàn diện từ GDN, QSA đến khả năng nhúng N-gram với độ chính xác FP8.
Elvis Saravia@omarsar0With models becoming increasingly interchangeable, it's all about quality and organization of contex…
DịchTại sự kiện Glean:GO, Glean giới thiệu loạt tính năng mới giúp kết nối tri thức doanh nghiệp với AI. Nền tảng này đạt hiệu suất vượt trội khi giảm 81% chi phí token và được người dùng ưu tiên lựa chọn trong 78% các bài kiểm tra so với Claude Cowork.
DiffusionOPSD tối ưu hóa mô hình khuếch tán bằng cách chuyển đổi phần thưởng hình ảnh thành mục tiêu dự đoán trực tiếp, giúp cải thiện đáng kể hiệu suất và giảm tới 63% thời gian huấn luyện so với các phương pháp hiện có.
Phương pháp mới giúp tối ưu hóa mô hình AI bằng cách nén xuống 4-bit mà vẫn giữ nguyên hoặc cải thiện hiệu suất so với mô hình gốc, giải quyết bài toán đánh đổi giữa tốc độ và độ chính xác.
Apodex 1.1 tối ưu hóa khả năng xử lý tài liệu, lập trình và nghiên cứu thông qua cơ chế phối hợp tác tử thông minh. Với phiên bản 35B có thể chạy cục bộ, mô hình đạt hiệu suất vượt trội so với các hệ thống lớn hơn trong nhiều lĩnh vực chuyên môn.
Thêm 1 nguồn khác đưa tinX: Ma Dongxi NLP (@dongxi_nlp)MiniMax@MiniMax_AIThe real breakthrough in the NVIDIA SANA team's Sol Engine work on MiniMax H3! By splitting generat…
DịchNhờ công cụ Sol Engine từ đội ngũ NVIDIA SANA, thời gian tạo video 10 giây (768p) của MiniMax H3 đã giảm từ 414 giây xuống còn 14,93 giây, đánh dấu bước tiến vượt bậc về hiệu suất xử lý.
DAIR.AI@dair_ai// Applying Anthropic Primitives at Large Enterprises // Frontier models collapsed the cost of writ…
DịchThay vì tùy chỉnh mã nguồn cho từng dự án, bài báo đề xuất sử dụng 'harness' làm khung xương cố định cho các tác nhân AI. Cách tiếp cận này giúp giảm thiểu chi phí bảo trì và kiểm duyệt, đồng thời tối ưu hóa hiệu suất vượt trội hơn cả việc thay đổi mô hình nền tảng.
Việc để AI Agent chạy quá lâu dễ gây suy giảm khả năng tập trung và rủi ro bảo mật. Giải pháp là thiết lập vòng đời 24 giờ cho trợ lý cá nhân, sử dụng các sub-agent chuyên biệt cho tác vụ ngắn hạn và chỉ lưu trữ các tùy chỉnh quan trọng vào cuối ngày.
Rohan Paul@rohanpaul_aiAI agents have an expensive problem: when a request is missing information, they either guess too ea…
DịchNghiên cứu mới đề xuất cơ chế Active Inference giúp AI tự đánh giá chi phí và lợi ích trước khi thực hiện các thao tác như tìm kiếm hay gọi công cụ, giúp tối ưu hóa hiệu suất và độ chính xác thay vì thực hiện tự động.
Nhóm nghiên cứu từ UC Berkeley và UT Austin giới thiệu FreeToken, công cụ suy luận tối ưu cho phép chạy các mô hình khổng lồ như GLM-5.2 753B trên phần cứng cá nhân với tốc độ tương tác cao.
Clément Delangue (Hugging Face CEO)@ClementDelangueNVIDIA built its own coding harness to optimize CUDA GPU kernels and achieved a 100% score on ARC-AG…
DịchNVIDIA vừa ra mắt khung lập trình giúp tối ưu hóa nhân CUDA, đạt tỷ lệ giải quyết 100% các bài toán trong ARC-AGI-3. Bước tiến này hứa hẹn sẽ hạ thấp rào cản kỹ thuật, giúp việc huấn luyện và tối ưu hóa AI trở nên dễ dàng hơn cho mọi người.
Rohan Paul@rohanpaul_aiAn agent can improve without retraining the model. Once agents rewrite their own prompts, memory, a…
DịchNghiên cứu mới giới thiệu khung 'Học tập liên tục theo cấu trúc' (HCL), cho phép AI Agent cập nhật hành vi bằng cách tinh chỉnh prompt, bộ nhớ và định tuyến thay vì huấn luyện lại tham số. Phương pháp này coi các thay đổi cấu trúc như mã nguồn, cần kiểm thử hồi quy trước khi áp dụng.
Rohan Paul@rohanpaul_aiNew Alibaba ByteDance paper shows that AI agents can no longer be served like ordinary LLM requests….
DịchAlibaba và ByteDance chỉ ra rằng hiệu năng AI Agent không còn phụ thuộc vào mô hình mà nằm ở sự phối hợp giữa công cụ, bộ nhớ và môi trường. Việc tối ưu hóa kiến trúc hệ thống giúp giảm độ trễ đáng kể và tăng tốc độ xử lý gấp nhiều lần so với chỉ tập trung vào tốc độ suy luận.
Đội ngũ Ant Group và RadixArk đã tối ưu hóa mô hình Ling-3.0-flash, giúp tăng tốc độ giải mã đơn yêu cầu từ 288 lên 606 tok/s và giảm độ trễ TPOT xuống còn 1.53 ms nhờ kiến trúc MoE cải tiến.
Liquid AI vừa giới thiệu các mô hình dự thảo DSpark cho dòng LFM2.5, giúp tăng tốc độ giải mã lên tới 3,18 lần trên GPU H100 và 2,87 lần trên chip M4 Max mà vẫn giữ nguyên chất lượng đầu ra.