Nghiên cứu của Apple: Chỉ cần can thiệp một neuron để vô hiệu hóa cơ chế an toàn của LLM

Tác giả: Hamid Kazemi‡, Atoosa Chegini‡†**, Maria Safi

Sự căn chỉnh an toàn (safety alignment) trong các mô hình ngôn ngữ vận hành thông qua hai hệ thống có cơ chế khác biệt: các neuron từ chối (refusal neurons) đóng vai trò kiểm soát việc liệu kiến thức độc hại có được thể hiện hay không, và các neuron khái niệm (concept neurons) mã hóa chính kiến thức độc hại đó. Bằng cách nhắm mục tiêu vào một neuron duy nhất trong mỗi hệ thống, chúng tôi chứng minh cả hai hướng thất bại — vượt qua rào cản an toàn đối với các yêu cầu độc hại rõ ràng thông qua việc ức chế, và tạo ra nội dung độc hại từ các câu lệnh vô hại thông qua việc khuếch đại — trên bảy mô hình thuộc hai dòng khác nhau với quy mô từ 1,7 tỷ đến 70 tỷ tham số, mà không cần bất kỳ quá trình huấn luyện hay kỹ thuật prompt nào. Những phát hiện của chúng tôi cho thấy rằng sự căn chỉnh an toàn không được phân bổ một cách bền vững trên các trọng số của mô hình, mà được điều phối bởi các neuron riêng lẻ, mỗi neuron đều có đủ khả năng nhân quả để kiểm soát hành vi từ chối — việc ức chế bất kỳ neuron từ chối nào đã xác định đều có thể vượt qua sự căn chỉnh an toàn đối với nhiều yêu cầu độc hại khác nhau.

Các bài đọc và cập nhật liên quan.

Đánh giá an toàn của các mô hình nền tảng đa phương thức (multimodal foundation models) thường xử lý đầu vào hình ảnh và ngôn ngữ một cách riêng biệt, dẫn đến việc bỏ lỡ các rủi ro từ việc diễn giải kết hợp, nơi nội dung lành tính trở nên độc hại khi đi cùng nhau. Các phương pháp hiện tại cũng không phân biệt rõ ràng giữa nội dung không an toàn và các trường hợp ranh giới, dẫn đến tình trạng chặn quá mức gây bất tiện hoặc từ chối không đủ đối với các nội dung thực sự độc hại. Chúng tôi giới thiệu Vision Language Safety Understanding (VLSU), một phương pháp toàn diện…

Đọc thêm

Bài báo này đã được chấp nhận tại Hội thảo về Thiết kế Nguyên tắc cho AI Đáng tin cậy, Khả năng diễn giải, Tính bền vững và An toàn trên các phương thức (Principled Design for Trustworthy AI, Interpretability, Robustness, and Safety across Modalities Workshop) tại ICLR 2026.

Các mô hình hiện tại để đảm bảo an toàn cho AI, chẳng hạn như các mô hình rào chắn (guardrail models) và huấn luyện căn chỉnh (alignment training), thường làm ảnh hưởng đến hiệu suất suy luận hoặc sự linh hoạt trong phát triển. Chúng tôi giới thiệu Disentangled Safety Adapters (DSA), một khung làm việc mới giải quyết những thách thức này bằng cách tách biệt các thành phần an toàn…

Đọc thêm