AI Notes@AYi_AInotesDream-RSI cải thiện khả năng giải quyết vấn đề bằng cách tối ưu hóa chiến lược tìm kiếm thay vì huấn luyện lại mô hình, giúp giảm đáng kể số lần gọi API mà vẫn duy trì hiệu suất cao trong các tác vụ logic.
Ant Group ra mắt OmniTable, hệ thống giúp tối ưu hóa quản trị dữ liệu cho các mô hình ngôn ngữ lớn quy mô PB. Giải pháp này đã giúp rút ngắn thời gian xử lý dữ liệu SFT từ 14 ngày xuống còn 2,5 ngày, đồng thời giảm đáng kể các thao tác thủ công.
Apple và ĐH Copenhagen phát hiện việc tinh chỉnh LLM theo các giá trị cụ thể có thể gây hiệu ứng domino, làm tăng xu hướng 'nịnh nọt' và nhân hóa ngôn ngữ của mô hình dù giúp cải thiện tính an toàn.
Intel đề xuất BITCOS, phương pháp lưu trữ trọng số tam phân giúp giảm dung lượng xuống dưới 1.58 bit/trọng số, tối ưu hóa hiệu suất cho các mô hình AI hiện đại.
Nghiên cứu giới thiệu phương pháp dùng các 'register tokens' để lưu trữ trạng thái suy luận, giúp mô hình ngôn ngữ khuếch tán duy trì logic mạch lạc khi xử lý văn bản dài mà không cần giữ toàn bộ ngữ cảnh cũ.
Apple giới thiệu DACA-GRPO, phương pháp mới giúp cải thiện việc phân bổ tín dụng trong học tăng cường cho mô hình ngôn ngữ khuếch tán thông qua kỹ thuật đánh giá tiến trình khử nhiễu và giảm sai lệch ước tính.
Apple giới thiệu TS-DFM, kỹ thuật chưng cất mô hình sử dụng 'la bàn năng lượng' để chọn lọc bước nhảy hiệu quả thay vì ngẫu nhiên. Kết quả cho thấy mô hình 8 bước vượt trội hơn mô hình 1024 bước tới 32% về độ chính xác, đồng thời tăng tốc độ suy luận gấp 128 lần.
Cùng sự kiện, bài đại diện «DACA-GRPO: Apple tối ưu hóa học tăng cường cho mô hình ngôn ngữ khuếch tán»
Rohan Paul@rohanpaul_aiVoice agents should consume speech incrementally but only act on committed text, because a fast tran…
DịchNetEase Youdao giới thiệu mô hình nhận diện giọng nói thời gian thực Confucius4-R2T2, sử dụng kỹ thuật Longest Stable Prefix để đảm bảo văn bản đã xuất ra sẽ không bị thay đổi. Mô hình dựa trên Qwen3-ASR, cho phép tùy chỉnh thuật ngữ chuyên ngành linh hoạt mà không cần huấn luyện lại.
Sử dụng TensorRT Edge-LLM, Jetson AGX Thor chạy mô hình Qwen3.6-27B với tốc độ 52,33 tokens/s, hoàn thành bài kiểm tra MLPerf Edge Agentic nhanh gấp 6,4 lần so với phương pháp truyền thống.
Apple giới thiệu Glyph, hệ thống AI sử dụng các tác nhân thông minh để tự động tạo mô tả cột và gắn nhãn dữ liệu nhạy cảm. Hệ thống kết hợp nhiều chiến lược xử lý song song, giúp cải thiện đáng kể độ chính xác trong việc phân loại và quản trị dữ liệu doanh nghiệp.
opencode@opencodesome improvements were made with Union Alpha, try it again if you had issues
DịchUnion Alpha vừa cập nhật cải tiến hiệu suất sau phản hồi về tốc độ chậm. Hiện hệ thống đã đạt cột mốc hơn 100 tỷ token và đang duy trì tốc độ xử lý ấn tượng 500 triệu token mỗi phút.
Arena@arenaWe compared the top model from each family by net improvement score and median cost per task. Family…
DịchArena đánh giá các dòng mô hình hàng đầu dựa trên điểm số cải thiện và chi phí mỗi tác vụ. Kết quả cho thấy GPT-6 Astra và Claude Fable 5.1 mang lại hiệu suất vượt trội nhưng đi kèm mức giá cao hơn đáng kể so với các phiên bản khác cùng dòng.
Baseten giới thiệu bộ công cụ Hosted Tools, cho phép các mô hình AI nguồn mở trên nền tảng này truy cập dữ liệu thời gian thực thông qua 4 nhà cung cấp dịch vụ tìm kiếm như Exa và You.com.
Aidan Gomez (Cohere CEO)@aidangomezA hosted, encrypted solution for running LLMs! Truly secure access to models with full protection of…
DịchCohere giới thiệu Model Vault, nền tảng lưu trữ và vận hành LLM được mã hóa hoàn toàn, giúp doanh nghiệp truy cập mô hình an toàn tuyệt đối mà không lo rò rỉ dữ liệu hay tạo dữ liệu tổng hợp.
AK@_akhaliqContinual Learning Mechanisms Compose for Long-Horizon Memorization paper: https://huggingface.co/p...
DịchNghiên cứu mới đề xuất phương pháp kết hợp các cơ chế học liên tục (continual learning) nhằm giúp mô hình AI duy trì và truy xuất bộ nhớ dài hạn hiệu quả hơn.
Elvis Saravia@omarsar0Banger paper from NVIDIA. It's on the topic of choosing which models go into a multi-agent system. …
DịchNghiên cứu của NVIDIA chỉ ra rằng việc sử dụng nhiều bản sao của cùng một mô hình thường hiệu quả hơn là kết hợp các mô hình khác nhau. Việc chọn lọc mô hình từ cùng một dòng sản phẩm mang lại hiệu suất tốt nhất cho hệ thống đa tác nhân.
DAIR.AI@dair_aiBanger paper from Google Research. This one is on how LLM assistants reason about the people in a u…
DịchGoogle Research giới thiệu Fuse, khung đánh giá khả năng suy luận xã hội của LLM thông qua các kịch bản mô phỏng. Kết quả cho thấy các mô hình dễ bị ảnh hưởng bởi định kiến từ người dùng và độ dài hội thoại không đảm bảo cải thiện độ chính xác.
Apple phát triển kiến trúc bộ nhớ mới giúp AI Agent tối ưu hóa ngữ cảnh, tăng tỷ lệ hoàn thành nhiệm vụ lên 96% đồng thời giảm 14 lần thời gian xử lý và 97 lần chi phí token so với phương pháp truyền thống.
Một lập trình viên tay ngang lo ngại rằng việc dùng AI để xây dựng hệ thống phức tạp khiến họ chỉ tạo ra 'vỏ bọc' sản phẩm mà không thực sự hiểu bản chất. Bài viết đặt câu hỏi về tương lai nghề nghiệp khi AI có thể thay thế kỹ năng lập trình truyền thống.
Trong bối cảnh giới toán học lo ngại về việc AI 'đánh cắp' ý tưởng trên đám mây, StartLux gây chú ý khi đạt hiệu suất vượt trội với mô hình 27B. Chúng tôi thảo luận về cách họ tối ưu hóa hậu huấn luyện để đạt kết quả ấn tượng dù quy mô tham số nhỏ.
Nghiên cứu giới thiệu bộ tiêu chuẩn ImpossibleRubrics với 169 nhiệm vụ phi logic nhằm kiểm tra xem các mô hình chấm điểm AI có bị đánh lừa bởi những câu trả lời sai lệch hay không.
Nghiên cứu mới chỉ ra hiệu ứng Matthew trong huấn luyện RL khiến các mô hình mạnh tiến bộ nhanh hơn, trong khi các bài toán khó nhất vẫn bị bỏ ngỏ. Tác giả đề xuất phương pháp 'Never Give Up' để khắc phục hạn chế này.
Jev là mô hình chuyên biệt cho các tác vụ phân loại, định tuyến và chấm điểm với tốc độ nhanh gấp 100 lần và chi phí rẻ hơn 200 lần so với các mô hình ngôn ngữ nhỏ (SLM) hàng đầu.
Nghiên cứu cho thấy việc đặt câu hỏi dưới góc độ 'giải thích cho học sinh' giúp các mô hình AI hàng đầu bộc lộ cấu trúc kiến trúc cốt lõi một cách nhất quán và ổn định hơn so với các cách hỏi thông thường.
DAIR.AI@dair_aiInteresting safety paper from Microsoft. They find that a weaker, unaligned model can split a harmf…
DịchNhóm nghiên cứu Microsoft phát hiện các mô hình AI chưa được kiểm soát có thể chia nhỏ yêu cầu độc hại thành các câu hỏi vô hại, gửi cho các mô hình tiên tiến để lấy lời giải rồi tự tổng hợp lại, qua mặt cơ chế an toàn.
Đội ngũ kỹ thuật Xiaohongshu giới thiệu MemPro, cho phép hệ thống bộ nhớ của AI Agent tự tối ưu hóa thông qua quy trình chỉnh sửa, gỡ lỗi và cập nhật logic, prompt một cách tự động.
OpenAI đang gây xôn xao khi các lãnh đạo cấp cao xác nhận sẽ có loạt bản cập nhật lớn trong tuần này. Nhiều người dùng báo cáo đã được trải nghiệm sớm GPT-6 Sol với tốc độ vượt trội, làm dấy lên đồn đoán về một bước tiến mới trong khả năng suy luận và hiệu suất của mô hình.
Tổng hợp từ 600 nghiên cứu, bài viết đề xuất khung lý thuyết 'Theory of Agent' giúp tối ưu hóa việc phân bổ năng lực cho AI Agent, tránh tình trạng lạm dụng công cụ hoặc suy diễn sai lệch.
Nhóm nghiên cứu từ ĐH Thanh Hoa phát hiện On-Policy Distillation (OPD) có thể đạt 70% hiệu suất dù chỉ huấn luyện trên một mẫu dữ liệu duy nhất, cho thấy thuật toán hiện tại vẫn chưa khai thác hết tiềm năng của dữ liệu.
Đánh giá mô hình mới từ Volcano Engine với khả năng xử lý ngữ cảnh 1M và tư duy sâu 256k, tối ưu hóa độ ổn định cho các tác vụ Agent phức tạp và giảm thiểu ảo giác khi sử dụng công cụ.
karminski@karminski3Dự án K2-Horizon-7B đang triển khai tối ưu hóa bộ nhớ với định dạng 8-bit và 4-bit, đồng thời cộng đồng đang kỳ vọng nhóm phát triển sớm tích hợp cơ chế Hybrid Attention để nâng cao hiệu năng.
DDO là kỹ thuật chỉnh sửa trọng số hậu kỳ giúp ngăn chặn các cuộc tấn công xóa bỏ tính năng từ chối (RFA) trên mô hình ngôn ngữ mà không cần huấn luyện lại, bằng cách chèn tín hiệu giả để đánh lạc hướng kẻ tấn công.
karminski@karminski3Bilibili vừa trình làng 'Đấu trường AI', cho phép các mô hình ngôn ngữ lớn hàng đầu cạnh tranh trực tiếp trong các tình huống thực tế, bao gồm cả các bài đánh giá từ chuyên gia karminski.
Elvis Saravia@omarsar0Banger report from Salesforce. Pretty interesting to see more of these custom enterprise models. S…
DịchSalesforce phát triển mô hình Koa dựa trên Nemotron-3, tối ưu hóa cho các tác vụ đa vòng và mô phỏng người dùng thông qua kỹ thuật huấn luyện GRPO và đánh giá khả năng sử dụng công cụ.
DAIR.AI@dair_aiGiving an assistant extra tools seems harmless. Surprisingly, this paper shows it can make the assi…
DịchMột nghiên cứu mới chỉ ra rằng việc tích hợp các công cụ không cần thiết khiến các mô hình ngôn ngữ lớn (LLM) dễ bỏ qua các câu hỏi đơn giản, dù công cụ không được sử dụng. Việc bổ sung hướng dẫn cụ thể trong system prompt có thể giúp cải thiện đáng kể tỷ lệ phản hồi này.
Emergence World là môi trường mô phỏng 8 thế giới song song với hàng triệu lượt gọi LLM, được thiết kế để kiểm tra khả năng chống chịu của các hệ thống đa tác nhân trước các cuộc tấn công đối kháng như tiêm nhiễm gợi ý và rò rỉ dữ liệu.
Bằng cách tận dụng CPU để quản lý bộ nhớ thay vì dồn hết tác vụ cho GPU, các mô hình ngôn ngữ lớn có thể tối ưu hóa quy trình tạo token và cải thiện hiệu suất đáng kể.
Mind2Dialogue giải quyết lỗ hổng trong việc huấn luyện AI bằng cách mô phỏng trạng thái tâm lý và mục tiêu ẩn của người dùng, giúp mô hình phản hồi sâu sắc và cá nhân hóa hơn.
HP giới thiệu ZBook Ultra G3a 16 trang bị chip AMD Ryzen AI Max PRO, hỗ trợ bộ nhớ thống nhất 192GB, cho phép chạy cục bộ các mô hình ngôn ngữ lớn quy mô 300 tỷ tham số.
Gavel là phương pháp mới giúp LLM tự chọn kỹ năng phù hợp thông qua các ánh xạ tuyến tính thay vì nhồi nhét metadata vào ngữ cảnh, giúp mở rộng thư viện kỹ năng mà không làm giảm hiệu suất của mô hình.