Registers: Chìa khóa tối ưu hóa kiến trúc Diffusion Transformers trong không gian pixel

Tóm tắt AI

Nghiên cứu chỉ ra rằng việc bổ sung register tokens giúp cải thiện đáng kể chất lượng bản đồ đặc trưng và hiệu suất của các mô hình Diffusion Transformers (DiTs) trong không gian pixel, ngay cả khi không gặp vấn đề về outlier như Vision Transformers.