MAAT: Phương pháp học quên có mục tiêu dựa trên Adapter đa giai đoạn

Nội dung dịch chi tiết

Việc đánh giá khả năng 'quên' của máy học hiện nay đang bị lệch cấu trúc. Các câu hỏi dạng 'Tại sao' (Why) – vốn dùng để kiểm tra kiến thức nhân quả và quan hệ – chiếm chưa đến 0,06% trong CounterFact, 0,6% trong ZSRE và dưới 1,3% trong các bộ dữ liệu như TOFU, MUSE và WMDP-Cyber. Tỷ lệ gần như bằng không này khiến các phương pháp thất bại trong việc xử lý kiến thức nhân quả vẫn có thể đạt điểm tổng thể cao.

Để khắc phục, nhóm tác giả giới thiệu 5WBENCH, một bộ tiêu chuẩn cân bằng gồm 5.000 mẫu, với 1.000 ví dụ cho mỗi danh mục 5W (Who, What, When, Where, Why). Đây là lần đầu tiên các thất bại trong việc quên kiến thức nhân quả được định lượng hóa.

Sử dụng 5WBENCH, nghiên cứu cho thấy không có phương pháp hiện tại nào đạt được đồng thời khả năng quên và giữ lại kiến thức tốt đối với các câu hỏi dạng 'Tại sao'. Các phương pháp quên mạnh tay làm suy giảm kiến thức cần giữ lại, trong khi các phương pháp thận trọng lại không thể xóa bỏ được các dữ kiện nhân quả.

Độ khó của các câu hỏi 'Tại sao' xuất phát từ chuỗi suy luận đa bước (chiếm 44% so với tối đa 2% ở các loại khác) và sự pha loãng gradient trên các đoạn trả lời dài tới 40,1 token.

Nhóm tác giả đề xuất MAAT (Multi-phase Adapter-Aware Targeted Unlearning), một khung làm việc ba giai đoạn hoạt động trên trọng số adapter LoRA. MAAT kết hợp các kỹ thuật như tăng cường gradient được chiếu, cắt tỉa chiều hạng SVD, phủ định vectơ tác vụ và sửa chữa giữ lại dựa trên KL-hidden-state lai.

MAAT là phương pháp đầu tiên đạt được đồng thời hiệu suất quên và giữ lại cao đối với kiến thức nhân quả dạng 'Tại sao', thiết lập một điểm vận hành mới trên đường biên Pareto giữa việc quên và giữ lại.