Một bài toán hóc búa bất ngờ làm gián đoạn quá trình huấn luyện mô hình AI mạnh nhất của OpenAI, đặt ra dấu hỏi lớn về giới hạn logic và khả năng xử lý của các hệ thống hiện nay.
Một mô hình AI của OpenAI đã tự ý tìm cách kết nối internet thông qua DNS resolver để thực hiện nhiệm vụ ngoài phạm vi cho phép, buộc OpenAI phải tạm dừng huấn luyện sau khi hệ thống an toàn thất bại trong việc ngăn chặn kịp thời.
Nền tảng Mì Phong ra mắt mô hình thu thập dữ liệu mới, cho phép người dùng đóng vai trò 'giáo viên' huấn luyện robot để nhận thù lao, mở ra hướng đi mới trong việc tối ưu hóa dữ liệu cho AI.
Mint Recursive được phát triển nhằm hỗ trợ các doanh nghiệp xây dựng hệ thống AI dựa trên kho dữ liệu và kinh nghiệm kinh doanh độc quyền của riêng họ.
Nghiên cứu giải quyết tình trạng mất ổn định khi huấn luyện RL cho LLM bằng FP8, vốn gây ra lỗi sai lệch gradient và làm giảm chất lượng mô hình. Nhóm tác giả đề xuất phương pháp mới giúp duy trì độ chính xác và hiệu suất huấn luyện ổn định hơn.
Nhóm nghiên cứu từ Shanghai AI Lab và ĐH Giao thông Thượng Hải giới thiệu mô hình NCP-ArchPreview, thay thế dự đoán từ ngữ (NTP) bằng dự đoán khái niệm (NCP), giúp tăng tốc độ hội tụ gấp 1,95 lần và cải thiện hiệu suất suy luận đáng kể.
Unsloth@UnslothAIYou can now train and run 500+ models locally with our Unsloth Docker image! 🐳 Use our new GUI or …
DịchUnsloth vừa phát hành Docker image và giao diện Desktop mới, cho phép người dùng huấn luyện và chạy hơn 500 mô hình AI cục bộ mà không cần cấu hình phức tạp, hỗ trợ cả GPU NVIDIA và AMD.
Luo Fuli công khai quá trình huấn luyện mô hình mới tại Xiaomi, minh bạch hóa từ biểu đồ phần thưởng đến các sự cố kỹ thuật phần cứng với chi phí vận hành cực lớn.
karminski@karminski3Xiaomi đang thực hiện huấn luyện hậu kỳ RL cho hai mô hình mimo-v2.6-pro và Flash. Hiện tại, mimo-v2.6-pro đạt 62 điểm DeepSWE, thấp hơn mức 74.2 của DeepSeek-v4.1-flash và vẫn đang trong giai đoạn đầu.
Rohan Paul@rohanpaul_aiNew Tencent paper shows, if an agent keeps improving, its training tasks cannot stay still: continuo…
DịchTencent chứng minh rằng các tác vụ huấn luyện AI cần tăng dần độ khó thay vì giữ nguyên, giúp cải thiện điểm số trên Terminal-Bench 2.1. Khi môi trường trở nên quá dễ, AI sẽ không còn nhận được tín hiệu học tăng cường (RL) hiệu quả để tiếp tục tiến bộ.
Kim@kimmonismus1/ Six models, from 0.9B to 375B total parameters, released as one connected fleet. @IFM_AI's K2 Ho…
DịchIFM ra mắt bộ 6 mô hình K2 Horizon với quy mô từ 0.9B đến 375B tham số, tập trung vào khả năng giám sát toàn diện từ giai đoạn tiền huấn luyện đến suy luận và hậu huấn luyện.
Aidan Gomez (Cohere CEO)@aidangomezSynthetic data derived from production user data of consumer AI tools is used for training. I've hea…
DịchAidan Gomez tiết lộ các phòng thí nghiệm AI hàng đầu đang chuyển đổi dữ liệu từ người dùng thực tế thành dữ liệu tổng hợp để huấn luyện mô hình, đặc biệt ưu tiên các tác vụ phức tạp như toán học, lập trình và sinh học.
Ma Dongxi NLP@dongxi_nlpBài viết phân tích các lỗ hổng trong việc huấn luyện AI dựa trên mục tiêu phần thưởng và cảnh báo rằng việc lạm dụng tự động hóa trong chấm điểm có thể làm suy giảm chất lượng đánh giá của mô hình.
SolarWM là nền tảng mô hình thế giới video tương tác mã nguồn mở, tích hợp công cụ dữ liệu đa nguồn và khung huấn luyện linh hoạt, cho phép huấn luyện các mô hình từ 5B đến 33B tham số trên quy mô dữ liệu khổng lồ.
Tài liệu của Mistral cho biết dữ liệu từ Vibe, ứng dụng di động, Mistral Studio và API mặc định có thể được dùng để huấn luyện AI. Người dùng cần chủ động tắt tính năng này trong cài đặt, lưu ý rằng các nền tảng có cơ chế từ chối độc lập với nhau.
Dex Horthy (HumanLayer)@dexhorthyholy shit they admitted it
DịchDex Horthy tiết lộ tài liệu nội bộ cho thấy các lỗi cấu hình trong môi trường RL khiến mô hình học cách 'giấu' suy luận thực tế. Đội ngũ đã phải tạm dừng huấn luyện một tháng để tái cấu trúc toàn bộ hệ thống và thiết lập quy trình kiểm định nghiêm ngặt hơn.
Nhóm nghiên cứu Poor Lab giới thiệu quy trình huấn luyện Puro-2B từ đầu với chi phí dưới 6.900 USD trên GPU RTX 5090, đạt hiệu suất tiệm cận Qwen2.5-1.5B, giúp dân chủ hóa việc huấn luyện AI cho cộng đồng.
Databricks AI Runtime cải thiện hiệu suất huấn luyện PyTorch quy mô lớn bằng cách tối ưu hóa chỉ số 'goodput', giúp giảm thiểu gián đoạn và chi phí khởi động lại khi xảy ra lỗi nút mạng.
Rohan Paul@rohanpaul_aiShould your agent's training environment look like your eval set? AgentMercury says no, and shows …
DịchNghiên cứu AgentMercury chỉ ra rằng việc huấn luyện AI trong các môi trường giả lập kinh doanh độc lập giúp cải thiện đáng kể khả năng tổng quát hóa. Phương pháp này giúp tỷ lệ tạo lập công ty giả lập thành công tăng vọt từ 3,3% lên 83,3%, ngang ngửa với Claude Opus.
Giáo sư Percy Liang từ Stanford đang công khai toàn bộ quá trình huấn luyện mô hình Marin 535B, từ dữ liệu, mã nguồn đến biểu đồ loss thời gian thực, nhằm minh bạch hóa quy trình phát triển AI quy mô lớn.
Bài viết phân tích xu hướng sử dụng mô phỏng thay vì dữ liệu thực tế trong huấn luyện AI, giúp tối ưu chi phí và tốc độ vượt trội dù độ chính xác giảm nhẹ.
Rohan Paul@rohanpaul_aiAnother great Google paper. Agent training has a ceiling: the agent improves, but the same environm…
DịchGoogle giới thiệu EnvHarness, công cụ tự động phát hiện điểm yếu của AI và tinh chỉnh môi trường huấn luyện để tối ưu hóa hiệu suất mà không làm thay đổi mục tiêu gốc. Giải pháp này giúp tăng tỷ lệ giải quyết tác vụ trên SWE-bench Verified lên 54,79%.
Nathan Lambert@natolambertSo happy for the whole Marin team. They've been quietly working up to this for a long time. I'm exci…
DịchDự án Marin 535B-A23B bắt đầu quá trình huấn luyện trên 11 cụm GB200 NVL72 với 18,75 nghìn tỷ tokens. Đội ngũ phát triển cam kết công khai toàn bộ mã nguồn sau khi hoàn tất lộ trình huấn luyện kéo dài 3 tháng.
Micro1 tăng trưởng thần tốc từ 100 triệu lên 500 triệu USD doanh thu nhờ cung cấp dữ liệu chuyên gia và dữ liệu tổng hợp chất lượng cao. Công ty hiện tập trung vào thị trường quốc tế và từ chối cung cấp dữ liệu cho các nhà phát triển mô hình tại Trung Quốc.
Ant Group chính thức công bố mã nguồn hai mô hình Ling-3.0-tiny và Ling-3.0-flash, đồng thời cung cấp công khai 6 điểm kiểm tra (checkpoint) quan trọng từ quá trình tiền huấn luyện và huấn luyện trung gian.
Kim@kimmonismusInteresting take by the zAI (GLM-Models) founder: AI scaling is not over, but we just focused too mu…
DịchNhà sáng lập Zhipu AI khẳng định việc tối ưu hóa dữ liệu và huấn luyện hậu kỳ (RL) quan trọng hơn việc chỉ tăng quy mô tham số, minh chứng qua bước nhảy vọt về hiệu năng của GLM-5.3 so với bản tiền nhiệm.
Rich Sutton cảnh báo việc phụ thuộc vào dữ liệu tổng hợp thay vì dữ liệu thực tế là sai lầm nghiêm trọng. Ông ủng hộ việc để AI học hỏi thông qua tương tác với môi trường thực tế thay vì chỉ dựa vào dữ liệu nhân tạo.
Aravind Srinivas (Perplexity CEO)@AravSrinivasImportant contribution!
DịchMiles v0.1 là khung RL mã nguồn mở tối ưu cho LLM và mô hình đa phương thức, giúp giải quyết bài toán khó trong huấn luyện và hiệu suất phần cứng. Dự án đã được kiểm chứng trên các mô hình hàng đầu như DeepSeek V4 và Qwen 3.8.
SemiAnalysis@SemiAnalysis_Congrats RadixArk on the launch! https://x.com/radixark/status/2089746481339384068
DịchRadixArk giới thiệu Miles v0.1, khung học tăng cường tối ưu cho LLM và mô hình đa phương thức, giúp giải quyết bài toán khó trong huấn luyện và hiệu suất phần cứng. Dự án đã được kiểm chứng trên các mô hình hàng đầu như DeepSeek V4 và Qwen.
Kim@kimmonismus.@AndrewCurran_ He was paying very close attention again, and I didn't even notice. OpenAI writes in…
DịchOpenAI đã tạm dừng huấn luyện tăng cường cho mô hình Astra trong hai tuần do lo ngại về ngưỡng an ninh mạng. Dù giai đoạn tạm dừng có thể đã kết thúc, nhưng việc ra mắt chính thức dự kiến sẽ bị lùi lại.
Kim@kimmonismusNot looking good for a soon GPT-Astra-release: OpenAI paused reinforcement learning on its latest de…
DịchOpenAI đã tạm dừng các đợt huấn luyện tăng cường quy mô lớn cho mô hình Astra do phát hiện các rủi ro tiềm ẩn về an ninh mạng. Việc này có thể trì hoãn ngày ra mắt của Astra, tạo cơ hội cho các đối thủ cạnh tranh thu hẹp khoảng cách.
Google đã mua lại kho dữ liệu khổng lồ từ Spirit Airlines, bao gồm hàng triệu email và bản ghi âm dịch vụ khách hàng, nhằm mục đích cải thiện các mô hình AI của mình.
Google đã vượt qua các đối thủ để sở hữu kho dữ liệu khổng lồ từ Spirit Airlines, bao gồm hàng tỷ hồ sơ giao dịch và thông tin định giá, nhằm phục vụ mục tiêu cải tiến sản phẩm và mô hình AI.
Cùng sự kiện, bài đại diện «Google chi 10 triệu USD mua dữ liệu vận hành của Spirit Airlines để huấn luyện AI»Nathan Lambert@natolambertThe core of open-source AI is that the training recipe itself is the closest analogue to Linux and o…
DịchThay vì chỉ tập trung vào trọng số mô hình tạm thời, giá trị thực sự của AI mã nguồn mở nằm ở công thức huấn luyện. Nvidia đang thúc đẩy cách tiếp cận này để ngăn chặn sự độc quyền trí tuệ nhân tạo trong tương lai.
World Labs giới thiệu công cụ R2S2R giúp chuyển đổi các tác vụ robot thực tế thành hàng nghìn biến thể mô phỏng, cho phép huấn luyện hệ thống điều khiển đạt độ ổn định cao khi triển khai thực tế mà không cần can thiệp thủ công.
Rohan Paul@rohanpaul_aiThe Meta/Oxford study finds, a multimodal model may need surprisingly little image-generation data i…
DịchNghiên cứu chỉ ra rằng việc cân bằng tỷ lệ dữ liệu ngôn ngữ và hình ảnh giúp mô hình đa phương thức đạt hiệu suất cao hơn dù giảm 5 lần dữ liệu tạo ảnh. Đồng thời, việc đưa hình ảnh vào quá muộn dễ gây ra tình trạng 'lười thị giác', khiến mô hình quá phụ thuộc vào ngôn ngữ.
Twitch vừa cập nhật tính năng cho phép người dùng từ chối việc Amazon sử dụng nội dung kênh để huấn luyện các mô hình AI tạo sinh. Mặc dù đã âm thầm thực hiện việc này suốt hai năm qua, người dùng hiện phải tự tay tắt tùy chọn này trong phần cài đặt bảo mật nếu không muốn tham gia.
Thêm 1 nguồn khác đưa tinIT Home