Phía huấn luyện mô hình: Xây dựng bộ dữ liệu, dữ liệu tổng hợp, tiền huấn luyện và hậu huấn luyện, chi phí tính toán cho huấn luyện.
670 bài thu thập67 tinh chọncập nhật đến 24/09 19:13
DeepSeek vừa công bố bài báo nghiên cứu mới về huấn luyện Agent, với sự góp mặt của Lương Văn Phong, cho thấy khả năng tạo ra hơn 5.000 môi trường sandbox mỗi giây.
Thêm 1 nguồn khác đưa tinJiqizhixinBài viết phân tích chiến lược tối ưu hóa Batch Size trong huấn luyện Reinforcement Learning (RL) quy mô lớn, giúp cân bằng giữa hiệu suất tính toán và thời gian huấn luyện để tiết kiệm chi phí vận hành hàng triệu USD.
OmniEdu là dòng mô hình nền tảng chuyên biệt cho giáo dục K-12, được huấn luyện để giải quyết vấn đề, chẩn đoán khó khăn của học sinh và cung cấp hỗ trợ sư phạm bài bản thông qua bộ dữ liệu tinh chỉnh đa dạng.
HuRo là phương pháp mới giúp chuyển đổi video hành động của con người thành dữ liệu điều khiển robot, tạo ra tập dữ liệu khổng lồ với 630.000 tập mẫu để huấn luyện các mô hình VLA hiệu quả hơn.
Nhóm nghiên cứu từ Shanghai AI Lab và ĐH Giao thông Thượng Hải giới thiệu mô hình NCP-ArchPreview, thay thế dự đoán từ ngữ (NTP) bằng dự đoán khái niệm (NCP), giúp tăng tốc độ hội tụ gấp 1,95 lần và cải thiện hiệu suất suy luận đáng kể.
Các nhà nghiên cứu giới thiệu Social World Model, cho phép AI liên tục cập nhật kiến thức từ dữ liệu thị trường thời gian thực, giúp mô hình 7B vượt qua các siêu AI như GPT-5.6 và Claude Opus 5 trong việc dự đoán biến động xã hội.
ToolLoop tối ưu hóa việc tạo dữ liệu huấn luyện cho LLM bằng cách chia nhỏ quy trình thành ba giai đoạn: lấy mẫu hàm, tạo câu hỏi ngược và tạo lệnh gọi công cụ, kết hợp cơ chế tự phản hồi để đảm bảo độ chính xác cao hơn so với phương pháp lọc truyền thống.
Unsloth@UnslothAIYou can now train and run 500+ models locally with our Unsloth Docker image! 🐳 Use our new GUI or …
DịchUnsloth vừa phát hành Docker image và giao diện Desktop mới, cho phép người dùng huấn luyện và chạy hơn 500 mô hình AI cục bộ mà không cần cấu hình phức tạp, hỗ trợ cả GPU NVIDIA và AMD.
Khi AI vượt khỏi thế giới số để điều khiển robot, dữ liệu từ góc nhìn thứ nhất (egocentric data) đang trở thành chìa khóa mới. Các công ty đang chạy đua thu thập hàng triệu giờ kinh nghiệm con người để huấn luyện mô hình robot thế hệ mới.
HERON-CRA của Scalabot kết hợp bộ nhớ 4D, công cụ học tăng cường (RL) và tiền huấn luyện đa hình thái, giúp nâng tỷ lệ thành công khi gấp tất từ 38,5% lên 97,8%.
Nhóm nghiên cứu từ ĐH Thanh Hoa phát hiện On-Policy Distillation (OPD) có thể đạt 70% hiệu suất dù chỉ huấn luyện trên một mẫu dữ liệu duy nhất, cho thấy thuật toán hiện tại vẫn chưa khai thác hết tiềm năng của dữ liệu.
Meta vừa công bố phương pháp chưng cất mô hình mới giúp các mô hình Byte vượt qua giới hạn hiệu suất truyền thống, mở ra hướng đi đột phá cho việc tối ưu hóa AI.
Khi các doanh nghiệp AI dần chuyển sang tự huấn luyện mô hình chuyên biệt để đảm bảo tính tự chủ, nền tảng PyTRIO xuất hiện như một giải pháp đột phá giúp đơn giản hóa quy trình huấn luyện phức tạp thông qua mô hình TaaS (Training-as-a-Service).
Đội ngũ AllSpark của Tiểu Hồng Thư vừa công bố mã nguồn mở cho Iris, mô hình Search Agent chuyên dụng. Hiện tại, trọng số và mã đánh giá đã được phát hành, các dữ liệu huấn luyện sẽ sớm được cập nhật.
Diễn biến sự kiện · 2 bài →Feyospace-v1 giới thiệu khung dữ liệu tập trung giúp tối ưu hóa việc huấn luyện các tác nhân AI an ninh mạng thông qua năm hệ thống chuyên biệt, giải quyết các rào cản về chi phí và môi trường thực thi để tạo ra hơn 164.000 quỹ đạo dữ liệu chất lượng cao.
Startup BrightSource đang áp dụng quy trình ba bước của LLM—tiền huấn luyện, căn chỉnh và triển khai—vào lĩnh vực robot thực tế, nhằm giải quyết bài toán khó về khả năng thích nghi trong môi trường vật lý thay vì chỉ dừng lại ở các bài kiểm tra mô phỏng.
Nghiên cứu giới thiệu phương pháp trộn dữ liệu giúp mô hình AI suy luận trực tiếp bằng ngôn ngữ của người dùng thay vì dịch sang tiếng Anh, đạt tỷ lệ chính xác trên 93% ở 60 ngôn ngữ.
Nhóm nghiên cứu từ ĐH Hàng không Vũ trụ Bắc Kinh và NTU giới thiệu PhyFilter, một module vật lý giúp robot thích nghi với môi trường mới chỉ bằng dữ liệu huấn luyện hạn chế, mở ra hướng đi thay thế cho việc 'cày' dữ liệu quy mô lớn.
Báo cáo mới từ Anthropic tiết lộ Claude bị lợi dụng để viết mã độc, phát triển phần mềm tên lửa tầm xa và drone tự hành, đồng thời bị các phòng thí nghiệm Trung Quốc khai thác quy mô lớn để huấn luyện mô hình.
Diễn biến sự kiện · 3 bài →Thay vì bắt chước đáp án mẫu, phương pháp Negative Self-Distillation (NSD) giúp mô hình ngôn ngữ tự tối ưu hóa bằng cách nhận diện và tránh xa các suy luận sai lầm, từ đó thúc đẩy tư duy phản biện và tự sửa lỗi.
Together AI bổ sung hỗ trợ cho các dòng mô hình mới như GLM-5.3, Kimi K2.7 và Qwen 3.5, đồng thời tích hợp tính năng theo dõi thử nghiệm trực tiếp và kiểm soát dữ liệu chuyên sâu.
Anthropic vừa công bố báo cáo cáo buộc các công ty AI hàng đầu Trung Quốc thực hiện gần 200 triệu lượt truy vấn nhằm 'chưng cất' (distill) dữ liệu từ mô hình Claude.
Diễn biến sự kiện · 3 bài →DF26 là bộ dữ liệu chuẩn mới gồm hơn 2.700 video, cho thấy cả con người lẫn các công cụ phát hiện deepfake hiện đại đều gần như bất lực trước các video do AI tạo ra. Nghiên cứu này gióng lên hồi chuông cảnh báo về sự cần thiết của các tiêu chuẩn kiểm chứng mới trong kỷ nguyên AI tạo sinh.
Graph Machine (GM) là kiến trúc mới sử dụng các 'cạnh' (edges) linh hoạt để truy xuất dữ liệu, giúp duy trì độ phức tạp O(n) mà vẫn đảm bảo tính thưa thớt hiệu quả. Phương pháp này cho phép thay thế phần lớn các lớp Transformer truyền thống với hiệu suất vượt trội và chi phí tính toán thấp.
NeoHorse-1 giới thiệu phương pháp huấn luyện mô hình mới, cho phép AI Agent học hỏi từ kinh nghiệm thực tế thay vì chỉ dừng lại ở nhật ký, đánh dấu bước thử nghiệm quan trọng hướng tới mục tiêu tự cải tiến đệ quy (RSI).
Rohan Paul@rohanpaul_aiIn a new allegation, the U.S. government has accused 6 Chinese AI firms of using large-scale distill…
DịchNSA, CISA và FBI cáo buộc DeepSeek cùng 5 công ty AI Trung Quốc khác đã thực hiện hành vi chưng cất (distillation) trái phép các mô hình AI tiên tiến của Mỹ ở quy mô công nghiệp kể từ cuối năm 2024.
RelightFormer là mô hình Transformer đột phá giúp tái chiếu sáng vật thể từ một hoặc nhiều góc nhìn mà không cần ước tính các thuộc tính vật lý phức tạp. Bằng cách tận dụng dữ liệu từ bộ dataset LOD khổng lồ, mô hình đạt độ chính xác cao trong việc mô phỏng tương tác ánh sáng 3D.
Phân tích thực nghiệm cho thấy cải tiến dữ liệu giúp tăng hiệu suất tính toán gấp 12 lần, vượt xa mức 3,7 lần từ cải tiến kiến trúc mô hình, khẳng định dữ liệu đóng vai trò quan trọng gấp 3,24 lần so với thiết kế mô hình.
CUA-Lite cung cấp môi trường sandbox, bộ dữ liệu thống nhất và khung đánh giá chuẩn hóa cho các tác nhân AI hoạt động trên máy tính, hỗ trợ hơn 14 dòng mô hình khác nhau.
LLaDA-Image là mô hình Diffusion Transformer 6B mới, ưu tiên học cấu trúc hình ảnh trước khi thực hiện căn chỉnh ngôn ngữ, giúp đạt hiệu suất dẫn đầu trên bảng xếp hạng Qwen-Image-Bench.