Sakana AI đột phá với Error Diffusion: Huấn luyện mạng thần kinh không cần lan truyền ngược

Backpropagation chiếm ưu thế trong deep learning, tuy nhiên nó sử dụng một cơ chế mà não bộ có lẽ không có. Cụ thể, quá trình lan truyền ngược (backward pass) cần các ma trận chuyển vị chính xác của các ma trận trọng số lan truyền xuôi (forward weight matrices). Đây chính là vấn đề vận chuyển trọng số (weight transport problem). Bài báo mới của Sakana AI, "Diffusing Blame", đối mặt trực tiếp với hạn chế này. Nhóm nghiên cứu huấn luyện các mạng tuân thủ nguyên lý Dale (Dale’s principle) trong khi hoàn toàn tránh được việc vận chuyển trọng số.

Error Diffusion là gì?

Error Diffusion (ED) là một quy tắc học tập cục bộ, được đề xuất lần đầu bởi Kaneko (2000). Mỗi lần cập nhật trọng số chỉ phụ thuộc vào ba tín hiệu. Đó là hoạt động tiền synap (presynaptic activity), đạo hàm kích hoạt hậu synap (postsynaptic activation derivative) và một dấu lỗi toàn cục duy nhất. Do đó, ED không bao giờ vận chuyển các trọng số lan truyền xuôi đã chuyển vị hay sử dụng các ma trận phản hồi ngẫu nhiên. Tính cục bộ đó làm cho ED tương thích một cách tự nhiên với nguyên lý Dale. Tuy nhiên, các nghiên cứu trước đây chỉ chứng minh ED trên phân loại nhị phân và MNIST.

Kiến trúc Dual-Stream

Để thỏa mãn hạn chế đó, nhóm nghiên cứu đã chia mỗi lớp thành hai luồng. Một luồng là kích thích (excitatory - p) và luồng kia là ức chế (inhibitory - n). Quá trình lan truyền xuôi tính toán các tiền kích hoạt (preactivations) theo công thức kích thích trừ ức chế cho mỗi luồng:

Ở đây, tất cả bốn ma trận trọng số đều không âm theo từng phần tử. Các bias bp và bn là ngoại lệ vì chúng không cần phải không âm. Hơn nữa, các dấu phủ định trước Wnp và Wpn mang tính cấu trúc chứ không phải được học. Do đó, các kết nối chéo luồng vẫn mang tính ức chế trong khi tất cả các trọng số có thể học được vẫn không âm. Thiết kế này cần bốn ma trận con trọng số cho mỗi lớp. Kết quả là nó sử dụng số lượng tham số gấp khoảng 4 lần so với mạng đơn luồng. Đối với cùng một kiến trúc, con số này là ~32M so với ~8M của DFA.

Modulo Error Routing

Với kiến trúc đó, phần mở rộng chính là modulo error routing. Điều này đưa Error Diffusion (ED) vượt ra ngoài phạm vi phân loại nhị phân. Đối với đơn vị ẩn i, nhóm nghiên cứu định nghĩa routing r(i) = i mod C. Ở đây, C là chiều đầu ra. Đơn vị đó sau đó học từ thành phần lỗi đã được định tuyến. Tóm lại, mỗi đơn vị ẩn được gán một kênh đầu ra cố định. Không giống như DFA, vốn có các ma trận phản hồi ngẫu nhiên, ED sử dụng sự tương ứng có cấu trúc này.

Ba cải tiến trong phân loại

Dựa trên việc định tuyến đó, nhóm nghiên cứu bổ sung ba bản sửa lỗi cho phân loại đa lớp:

Hiệu suất

Với cả ba cải tiến, Error Diffusion (ED) đạt 96.7% trên MNIST và 61.7% trên CIFAR-10. Ngược lại, ED cơ bản nếu không có các cải tiến này sẽ giảm xuống còn 50.4% và 11.6%. DFA đạt điểm cao hơn trên cả hai tác vụ nhưng vi phạm nguyên lý Dale, sử dụng ~2.84M trọng số âm. Đáng chú ý, đây là lần đầu tiên ED huấn luyện được các mạng tích chập (convolutional networks). Trước đó, Fujita (2026) đạt ~55.2% trên CIFAR-10 bằng cách sử dụng MLP phẳng. Dù vậy, 61.7% vẫn còn cách xa các phương pháp dựa trên gradient tiêu chuẩn.

Sự đảo ngược trong phân tích thành phần (Ablation Reversal)

Thú vị là tầm quan trọng của các cải tiến thay đổi giữa các tác vụ. Trên MNIST, việc loại bỏ độ rộng cụ thể theo lớp là một thảm họa (-71.4 điểm phần trăm), làm sụt giảm độ chính xác xuống mức ngẫu nhiên. Batch-centering hầu như không quan trọng ở đó (-0.3 điểm phần trăm). Tuy nhiên, trên CIFAR-10, thứ tự lại đảo ngược. Việc loại bỏ lỗi batch-centered trở thành mức giảm lớn nhất (-47.9 điểm phần trăm), làm sụp đổ bốn trong số năm seed. Sự đảo ngược này phơi bày các nút thắt cổ chai trong việc phân bổ tín dụng (credit-assignment) phụ thuộc vào tác vụ mà các đánh giá đơn lẻ không thể nhìn thấy.

Error Diffusion trong học tăng cường (Reinforcement Learning)

Ngoài phân loại, nhóm nghiên cứu tích hợp ED với Proximal Policy Optimization (PPO). Họ gọi kết quả này là ED-PPO và thử nghiệm trên Brax locomotion và Craftax. Ở đây, lỗi đầu ra của chính sách được định tuyến đến các đơn vị ẩn theo kênh đầu ra. Đối với mạng giá trị vô hướng (scalar value network), lỗi được phát đến tất cả các đơn vị. Quan trọng là, ED-PPO loại bỏ hoàn toàn ba cải tiến phân loại. Qua năm seed, ED-PPO đánh bại BP-PPO trên HalfCheetah (5494 so với 3520; p < 0.001) và ngang bằng với DFA-PPO. Trên Ant, nó vẫn ngang bằng với cả hai biến thể PPO. Trong khi đó, trên Craftax, DFA-PPO là phương pháp yếu nhất (19.8 so với BP-PPO 27.0). Như vậy, phản hồi ngẫu nhiên vốn đủ cho phân loại có thể thất bại trong học tăng cường mở (open-ended RL).

Các trường hợp sử dụng và ví dụ

Ba thiết lập làm cho điều này trở nên cụ thể:

So sánh

Cách Error Diffusion tuân thủ nguyên lý Dale so sánh như thế nào

Phương pháp đề xuất so với các quy tắc học tập không cần lan truyền ngược và có động lực sinh học khác. "Tuân thủ nguyên lý Dale" có nghĩa là các quần thể kích thích/ức chế riêng biệt với các trọng số không âm. Tên phương pháp liên kết đến các nguồn chính.

Điểm mấu chốt: hầu hết các quy tắc không cần backprop đều nới lỏng nguyên lý Dale, và hầu hết các mạng tuân thủ nguyên lý Dale vẫn dựa vào lan truyền ngược. Error Diffusion thỏa mãn cả hai cùng một lúc, và là phương pháp đầu tiên mang sự kết hợp đó vào học tăng cường.

So sánh được tổng hợp bởi Marktechpost · Phương pháp từ Sakana AI, “Diffusing Blame” (Yamada et al., 2026)

Phác thảo mã tối giản

Các phương trình được chuyển đổi thành một vòng lặp cập nhật minh họa, nhỏ gọn:

Những điểm chính cần nhớ

Hãy xem bài báo. Ngoài ra, đừng ngần ngại theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML 150k+ thành viên của chúng tôi và đăng ký nhận bản tin. Khoan đã! bạn có dùng Telegram không? bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Cần hợp tác với chúng tôi để quảng bá GitHub Repo HOẶC trang Hugging Face HOẶC ra mắt sản phẩm HOẶC hội thảo trực tuyến, v.v.? Hãy kết nối với chúng tôi.

Asif Razzaq là CEO của Marktechpost Media Inc.. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt Nền tảng truyền thông Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về tin tức học máy và học sâu, vừa đảm bảo tính kỹ thuật vừa dễ hiểu đối với đông đảo khán giả. Nền tảng này tự hào với hơn 2 triệu lượt xem hàng tháng, minh chứng cho sự phổ biến của nó đối với độc giả.