Nghiên cứu giải quyết vấn đề suy giảm hiệu suất của các bộ mã hóa RAE bằng cách chuyển sang tham số hóa dữ liệu sạch (x0-prediction), giúp tập trung học tập vào cấu trúc đa tạp tín hiệu thay vì nhiễu, từ đó cải thiện đáng kể chất lượng tạo ảnh từ văn bản.
Apple đề xuất phương pháp Probe Guidance tận dụng trạng thái nội tại của mô hình khuếch tán để dẫn dắt quá trình tạo văn bản mà không làm tăng chi phí tính toán, thiết lập kỷ lục SOTA mới cho các mô hình 1.7B.
Nghiên cứu chỉ ra rằng các mô hình tạo video hiện nay thường vi phạm quy luật vật lý do lỗi trong cơ chế Attention và sự suy giảm không gian từ RoPE, dẫn đến việc định hình chuyển động sai lệch ngay từ giai đoạn khử nhiễu đầu tiên.
Vì sao đáng đọc: Nghiên cứu chuyên sâu, giải quyết vấn đề cốt lõi của AI tạo video hiện nay. Nội dung có tính học thuật cao, rất hữu ích cho các kỹ sư và nhà nghiên cứu AI.
LLaDA-UI là tác nhân AI đa phương thức sử dụng kiến trúc khuếch tán khối (block-wise diffusion) với 16,7 tỷ tham số, giúp tăng tốc độ phản hồi thời gian thực khi tương tác với giao diện máy tính và di động.
Nghiên cứu giới thiệu phương pháp kết hợp mô hình khuếch tán vào LLM để tạo nhiều token song song, giúp tăng tốc độ suy luận mà không làm giảm độ chính xác so với cách dự đoán tuần tự truyền thống.
Vì sao đáng đọc: Đây là bước tiến đột phá trong việc giải quyết nút thắt cổ chai của LLM, mang lại hiệu năng cao mà không cần đánh đổi chất lượng, rất có giá trị cho cộng đồng nghiên cứu AI.
01/09
Thứ Ba · 1 tin
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_Wolf
Đồng sáng lập Hugging Face dự đoán một tương lai nơi giao diện và phần mềm được thay thế bằng các mô hình khuếch tán (diffusion models) có tốc độ phản hồi tức thì, thay đổi hoàn toàn cách chúng ta tương tác với máy tính.
Bài viết giải thích cách xây dựng mô hình ngôn ngữ khuếch tán, từ cơ chế khuếch tán Gaussian, mặt nạ đến kỹ thuật tinh chỉnh lặp lại, giúp đạt hiệu suất ngang bằng mô hình tự hồi quy truyền thống.
Diffusion export controls to follow the transformer ban https://www.whitehouse.gov/presidential-act...
DịchSau lệnh cấm đối với kiến trúc Transformer, Mỹ dự kiến sẽ tiếp tục áp đặt các hạn chế xuất khẩu nghiêm ngặt đối với các mô hình khuếch tán (Diffusion Models) nhằm kiểm soát công nghệ AI chiến lược.
Nghiên cứu giới thiệu ConceptEdit-12M với 12 triệu cặp ảnh chỉnh sửa chất lượng cao, kết hợp chiến lược giám sát dày đặc giúp AI hiểu sâu hơn về các khái niệm chỉnh sửa tinh vi, khắc phục hạn chế của các mô hình khuếch tán hiện nay.
all of the recent proc gen art, video editing and 3d game demos recently have made me update towards…
DịchDựa trên các tiến bộ gần đây trong lập trình nghệ thuật và chỉnh sửa video, các mô hình LLM đang cho thấy tiềm năng sáng tạo vượt trội hơn so với các mô hình khuếch tán truyền thống.