Nghiên cứu
PCD: Phương pháp tối ưu hóa phân cấp cho các mục tiêu học sâu không đồng nhất
(giờ Việt Nam)
Tóm tắt AI
Nghiên cứu giới thiệu Priority-Constrained Descent (PCD), một khung tối ưu hóa dựa trên gradient giúp giải quyết các bài toán đa mục tiêu bằng cách ưu tiên mục tiêu chính và kiểm soát sự biến dạng cần thiết cho các mục tiêu phụ.
Chính văn · Bản dịch AI
Tóm tắt: Các bài toán học sâu hiếm khi có các mục tiêu quan trọng ngang nhau. Một mục tiêu chính xác định đích đến, trong khi các mục tiêu phụ như độ thưa (sparsity), nén hoặc độ bền vững (robustness) sẽ ràng buộc lời giải. Mặc dù các phương pháp đa mục tiêu hiện có đã chứng minh được hiệu quả trong thực tế, chúng vẫn tồn tại vấn đề đối xứng rõ rệt và bỏ qua hệ thống phân cấp mục tiêu vốn có trong các không gian mục tiêu này. Chúng tôi giới thiệu Priority-Constrained Descent (PCD), một khung tối ưu hóa dựa trên gradient được thiết kế để khai thác rõ ràng các cấu trúc mục tiêu phân cấp. PCD bảo toàn hướng giảm chính trong khi cho phép độ méo tối thiểu cần thiết để đảm bảo tiến triển trên các mục tiêu phụ, được kiểm soát bởi một tham số duy nhất $\tau \in [0, 1]$ quy định mức độ méo. Công thức thu được có tính bất biến với việc thay đổi quy mô mục tiêu và cho phép các lời giải dạng đóng chính xác cho các bài toán có hai hoặc ba mục tiêu. Chúng tôi đánh giá PCD trong các thiết lập nén mạng có cấu trúc, độ thưa phi cấu trúc và tính hạng thấp (low-rankness), cùng với nhiều thí nghiệm tổng hợp khác nhau, cho thấy sự thống trị Pareto và hiệu suất trên mỗi mục tiêu tốt hơn với các đảm bảo tiến triển phụ so với các phương pháp hiện có, đồng thời thể hiện sự đánh đổi có thể diễn giải mà $\tau$ mang lại.
| Bình luận: | 52 trang, 17 hình, 18 bảng |
| Chủ đề: | Học máy (cs.LG); Học máy (stat.ML) |
| Trích dẫn là: | arXiv:2606.29521 [cs.LG] |
| (hoặc arXiv:2606.29521v2 [cs.LG] cho phiên bản này) | |
| https://doi.org/10.48550/arXiv.2606.29521 DOI do arXiv cấp thông qua DataCite | |
| Tài liệu tham khảo tạp chí: | Transactions on Machine Learning Research 2026 |
Lịch sử gửi bài
Từ: Mohamed AlHajri [xem email] v1 Chủ nhật, 28 tháng 6 năm 2026 17:31:47 UTC (9.734 KB) [v2] Thứ hai, 21 tháng 9 năm 2026 18:18:34 UTC (9.339 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hugging Face Daily Papers. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.