Nghiên cứu giới thiệu mô hình Môi trường tăng cường phản hồi (FEEs), giúp chuyển đổi phản hồi từ hướng dẫn hành động sang làm giàu quan sát, từ đó giải quyết bài toán phần thưởng thưa thớt trong học tăng cường và thúc đẩy khả năng tự tiến hóa của tác nhân AI.
VidaForge cung cấp quy trình 5 giai đoạn chuẩn hóa để xây dựng bộ dữ liệu huấn luyện video, giúp các nhà nghiên cứu dễ dàng tùy chỉnh và tái lập các công thức dữ liệu nhằm tối ưu hóa hiệu suất mô hình nền tảng.
Nghiên cứu phân tích sự chuyển dịch của công nghệ tạo ảnh từ các mô hình đơn lẻ sang hệ thống tự hành có khả năng lập kế hoạch, sử dụng công cụ và tự sửa lỗi. Bài viết đề xuất khung phân loại mới dựa trên mức độ kiểm soát của AI trong quy trình tạo hình ảnh.
Nghiên cứu phân tích dữ liệu từ hàng nghìn tác nhân AI giao dịch thực tế trên thị trường tiền điện tử, chỉ ra rằng các thiết lập hệ thống và quản trị rủi ro ảnh hưởng đến hành vi của AI mạnh mẽ hơn nhiều so với các chiến lược được lập trình sẵn.
Khoảng 10% các nhà nghiên cứu sử dụng tác nhân lập trình tích cực nhất tại OpenAI đang tiêu tốn tới 7.000 USD tiền token mỗi ngày, phản ánh sự thay đổi mạnh mẽ trong quy trình làm việc với AI.
NeoHorse-1 là mô hình AI Agent thế hệ mới, sử dụng cơ chế định tuyến thông minh để tự động chuyển hóa tương tác người dùng thành dữ liệu huấn luyện, tạo ra vòng lặp khép kín giúp mô hình tự đánh giá và nâng cấp hiệu suất liên tục.
Nghiên cứu chỉ ra rằng LLM không chỉ lặp lại định kiến cũ mà còn tự hình thành các hành vi phân biệt đối xử mới khi tương tác với người dùng, đặt ra thách thức lớn cho việc kiểm soát an toàn AI.
Rohan Paul@rohanpaul_aiNew Microsoft + Tsinghua Univ paper finds that agent failures are far easier to diagnose when the LL…
DịchAgentScope chuyển đổi hành trình vận hành của AI Agent thành biểu diễn cấu trúc, kết hợp với các bất biến thần kinh để xác định chính xác nguyên nhân và vị trí lỗi, giúp cải thiện đáng kể hiệu suất gỡ lỗi trên các tập dữ liệu chuyên biệt.
MOLE là bộ tiêu chuẩn đánh giá khả năng phát hiện các hành vi độc hại từ AI khi thực hiện công việc thực tế, giúp cải thiện hệ thống giám sát trước những rủi ro bảo mật nghiêm trọng.
DAIR.AI@dair_aiGreat study on what actually predicts vibe-coding ability. 100 tertiary-level students completed me…
DịchNghiên cứu trên 100 sinh viên cho thấy kỹ năng viết và nền tảng khoa học máy tính là yếu tố dự báo chính cho khả năng 'Vibe Coding'. Kết quả này đặt ra thách thức cho các trường đại học trong việc cân bằng giữa giảng dạy kỹ thuật viết prompt và kiến thức nền tảng CNTT.
Terence Tao lo ngại việc AI khai thác quá mức các bài toán mở sẽ làm cạn kiệt nguồn lực nghiên cứu và triệt tiêu động lực chia sẻ công khai, đe dọa truyền thống khoa học mở hàng trăm năm qua.
AK@_akhaliqUnlocking Lossless Speedups in LLMs via Discrete Diffusion paper: https://huggingface.co/papers/260...
DịchNghiên cứu mới giới thiệu phương pháp sử dụng mô hình khuếch tán rời rạc (discrete diffusion) để tăng tốc độ xử lý cho các mô hình ngôn ngữ lớn mà vẫn đảm bảo độ chính xác tuyệt đối.
DAIR.AI@dair_aiIf you are looking for a great resource on harness engineering, start here.
DịchKhám phá bộ sưu tập tài liệu chất lượng cao về Harness Engineering, một kỹ năng chuyên sâu đang được săn đón, được tổng hợp từ các nghiên cứu hàng đầu tại YC Paper Club.
Nghiên cứu chỉ ra rằng trong hệ thống huấn luyện LLM phân tán, các gradient bằng 0 từ dữ liệu giả (decoy) vô tình làm lộ vị trí dữ liệu thật, cho phép kẻ tấn công khôi phục thông tin nhạy cảm.
OpenAI vừa công bố hệ thống AI nội bộ đã giải thành công bài toán Navier-Stokes, chứng minh sự hình thành kỳ dị trong chất lưu, kèm theo tài liệu chứng minh và mã kiểm chứng Lean.
Diễn biến sự kiện · 35 bài →Thêm 30 nguồn khác đưa tinThe Decoder: AI NewsHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)The Verge: AIIT HomeX: Rohan Paul (@rohanpaul_ai)QbitAIX: Kim (@kimmonismus)X: AI Notes (@AYi_AInotes)X: Emad Mostaque (@EMostaque)Hacker News: AI bài nổi bậtX: Thomas Wolf (Hugging Face đồng sáng lập/CSO) (@Thom_Wolf)CafeF Kinh tế sốVietnamPlus Công nghệJiqizhixinX: Ma Dongxi NLP (@dongxi_nlp)Latent SpaceX: Aravind Srinivas (Perplexity CEO) (@AravSrinivas)X: SemiAnalysis (@SemiAnalysis_)X: Mark Chen (OpenAI Giám đốc nghiên cứu, @markchen90)X: Elvis Saravia (@omarsar0, DAIR.AI)X: Greg Brockman (@gdb)X: Testing Catalog (@testingcatalog)X: OpenAI (@OpenAI)GenK AIX: Eric Mitchell (@ericmitchellai)X: Sam Altman (@sama)X: Jason Liu (@jxnlco)X: Ethan Mollick (@emollick)X: Noam Brown (@polynoamial)X: AI Safety Memes (@AISafetyMemes)
Nathan Lambert@natolambertWould love to see scaling laws on the number of agents. Seems very important to a lot of discussions…
DịchNathan Lambert đề xuất nghiên cứu quy luật mở rộng (scaling laws) cho số lượng AI Agent, sau khi OpenAI chứng minh khả năng giải phương trình Navier-Stokes bằng 10.000 tác nhân phối hợp. Ông cho rằng việc mở rộng quy mô cụm Agent có thể quan trọng ngang bằng với khả năng suy luận của mô hình đơn lẻ.
OpenAI vừa công bố quỹ tài trợ 5 triệu USD nhằm thúc đẩy các nghiên cứu độc lập về ảnh hưởng của AI tạo sinh đến sự phát triển, sức khỏe tinh thần và an toàn của giới trẻ.
Phân tích thực nghiệm cho thấy cải tiến dữ liệu giúp tăng hiệu suất tính toán gấp 12 lần, vượt xa mức 3,7 lần từ cải tiến kiến trúc mô hình, khẳng định dữ liệu đóng vai trò quan trọng gấp 3,24 lần so với thiết kế mô hình.
DAIR.AI@dair_aiFinally a good paper testing whether an LLM's mathematical knowledge has coherent structure or just …
DịchNghiên cứu sử dụng lý thuyết không gian tri thức cho thấy các mô hình LLM thường vi phạm sự phụ thuộc logic trong toán học, dù vẫn đạt độ chính xác cao. Các mô hình khác nhau có sự chồng chéo tri thức thấp, cho thấy lỗ hổng trong cách đánh giá năng lực AI hiện nay.
Giám đốc phòng thí nghiệm Chris White chia sẻ về quá trình ứng dụng công nghệ vào các vấn đề thực tiễn, từ phân tích dữ liệu thời chiến đến các công cụ chống nạn buôn người.
Mô hình nền tảng nhân quả (CFM) cho phép ước tính các tác động nhân quả trên dữ liệu mới thông qua học trong ngữ cảnh mà không cần huấn luyện lại, thay thế quy trình xây dựng mô hình thủ công truyền thống.
DAIR.AI@dair_ai// Beneath the Surface of Chains-of-Thought // Impressive paper on whether reasoning steps have int…
DịchNghiên cứu mới chỉ ra rằng các bước suy luận của AI không chỉ là văn bản mà có cấu trúc hình học riêng biệt trong không gian ẩn. Các thao tác như phân tích mục tiêu hay suy diễn được sắp xếp có hệ thống, cho thấy AI xây dựng logic dựa trên ngữ cảnh thay vì chỉ dự đoán từ ngữ.
Hugging Face giới thiệu kỹ thuật tự chưng cất nhận diện biên, giúp khắc phục tình trạng từ chối phản hồi quá mức hoặc thiếu chính xác ở các mô hình AI, giảm tỷ lệ lỗi từ 19,88% xuống chỉ còn 0,20%.
Nghiên cứu giới thiệu khung làm việc mới giúp LLM phân biệt ranh giới an toàn tinh tế hơn, cho phép từ chối các nội dung độc hại trong khi vẫn duy trì phản hồi hữu ích cho các câu hỏi thực tế cùng chủ đề.
Microsoft Research@MSFTResearchCurious about what a future in research could look like? The Microsoft Research Undergrad Internship…
DịchChương trình thực tập 12 tuần tại Microsoft Research mang đến cơ hội nghiên cứu thực tế và sự dẫn dắt từ các chuyên gia hàng đầu cho sinh viên năm 3 và năm 4. Hạn chót nộp đơn là ngày 5 tháng 10.
Nghiên cứu chỉ ra rằng việc ép mô hình thế giới mô phỏng giống hệt thực tế có thể gây tác dụng ngược. Thay đổi mục tiêu huấn luyện từ 'nhất quán trạng thái' sang 'nhất quán hành vi' giúp giảm đáng kể tỷ lệ sai sót khi đánh giá AI Agent trong môi trường giả lập.
Nghiên cứu SMELT từ Đại học Thanh Hoa và ByteDance giải mã hiệu năng của Looped Transformer bằng cách so sánh công bằng về chi phí tính toán, tham số và KV cache, khẳng định tiềm năng của việc tái sử dụng các lớp mạng thay vì chỉ tăng quy mô mô hình.
Nghiên cứu giới thiệu phương pháp kết hợp mô hình khuếch tán vào LLM để tạo nhiều token song song, giúp tăng tốc độ suy luận mà không làm giảm độ chính xác so với cách dự đoán tuần tự truyền thống.
Nghiên cứu phân tích kỹ thuật tự chưng cất (OPSD) giúp mô hình tự học từ dữ liệu có sẵn mà không cần mô hình giáo viên lớn, đồng thời cảnh báo về rủi ro suy giảm khả năng suy luận do thiên kiến trong quá trình huấn luyện.
EmbodiedSkills là khung làm việc mới giúp các tác nhân VLA thực hiện nhiệm vụ phức tạp bằng cách kết hợp kiểm tra điều kiện tiên quyết và xác thực kết quả sau hành động, đảm bảo tính chính xác trong môi trường thực tế.
FlowBalance tối ưu hóa khả năng suy luận của AI bằng cách kết hợp phản hồi từ bộ kiểm chứng với hướng dẫn nội tại, giúp mô hình tự điều chỉnh dựa trên kết quả thực tế thay vì chỉ dựa vào dữ liệu huấn luyện sẵn có.
Rohan Paul@rohanpaul_aiFor hard long-context tasks, the paper suggests a simple fix: run the model again with its previous …
DịchPhương pháp mới sử dụng dấu vết suy luận làm trạng thái điều kiện, giúp mô hình tập trung vào các điểm trọng yếu trong ngữ cảnh dài, giải quyết triệt để tình trạng bỏ lỡ thông tin quan trọng. Kết quả thử nghiệm cho thấy hiệu suất vượt trội trong 26/27 bài kiểm tra.
Nghiên cứu này giải quyết thách thức khi LLM phải tự động cập nhật các phần phụ thuộc trong tài liệu khi người dùng yêu cầu chỉnh sửa cục bộ. Nhóm tác giả đề xuất bộ tiêu chuẩn đánh giá mới và các phương pháp tính toán tiết kiệm chi phí để cải thiện độ chính xác khi lan truyền thay đổi.
Rohan Paul@rohanpaul_aiA skill-enabled agent can look better overall while performing worse on the exact tasks where it ret…
DịchCác nhà nghiên cứu từ Đại học Soongsil chỉ ra rằng cách đánh giá AI Agent hiện nay thường bị sai lệch. Họ đề xuất phương pháp RAE để đo lường thực chất hiệu quả của việc truy xuất kỹ năng, giúp khắc phục các hạn chế trong các bài kiểm tra truyền thống.
Phương pháp TGOPD cải thiện quá trình chưng cất mô hình bằng cách kiểm tra độ tin cậy của giáo viên ở cấp độ prompt trước khi áp dụng giám sát, giúp tránh việc học theo các phản hồi sai lệch.
Rohan Paul@rohanpaul_aiNew Microsoft paper. Long agent runs expose failures that short benchmarks miss. Agents can look rel…
DịchNghiên cứu mới từ Microsoft chỉ ra rằng các LLM Agent mất khả năng xử lý khi số bước thực hiện tăng lên, với tỷ lệ thành công giảm từ gần 100% xuống còn 0-33% ở bước thứ 16. Vấn đề nằm ở số lượng bước thay vì độ dài ngữ cảnh, đòi hỏi các giải pháp kiểm soát lỗi theo từng giai đoạn.
Rohan Paul@rohanpaul_aiLetting research agents talk too early can make them follow the same wrong idea, so isolate some sea…
DịchArcticSwarm giải quyết vấn đề 'đồng thuận sớm' bằng cách cô lập kết quả tìm kiếm giữa các tác nhân AI, giúp tăng độ chính xác lên 82.6% trên BrowseComp-Plus, vượt xa phương pháp bỏ phiếu truyền thống.
DAIR.AI@dair_aiReally strong benchmark paper on coding agents. Claude Opus 5 running under Claude Code passes 23.9…
DịchSierra và ĐH Princeton ra mắt τ^τ-Bench, bộ tiêu chuẩn đánh giá khả năng tự xây dựng AI Agent của các mô hình ngôn ngữ. Kết quả cho thấy khoảng cách lớn giữa AI và chuyên gia con người trong việc thiết lập hệ thống chăm sóc khách hàng thực tế.
DAIR.AI@dair_ai// From Language Models to World-Acting Systems // A critical review of agentic AI, and a framework…
DịchDAIR.AI đề xuất khung đánh giá mới cho AI Agent, chỉ ra rằng khả năng kết nối hành động đang phát triển mạnh hơn so với độ tin cậy và tính tự chủ. Báo cáo cũng cảnh báo về rủi ro chi phí và lỗi phối hợp trong các hệ thống đa tác tử.
Elvis Saravia@omarsar0Testing GPT-6 Astra on visualizing popular AI papers. Started with this beautifully generated inte…
DịchKhám phá cách thức mới để tiếp cận nghiên cứu AI thông qua phiên bản tương tác của các bài báo Transformer trên GPT-6 Astra, giúp việc đọc và hiểu tài liệu chuyên sâu trở nên trực quan hơn.
