SecOPD: Chống tấn công Prompt Injection bằng phương pháp chưng cất chính sách (On-Policy Distillation)

Tóm tắt AI

SecOPD giải quyết lỗ hổng Prompt Injection bằng cách cung cấp phản hồi ở cấp độ token thay vì toàn bộ chuỗi, giúp mô hình LLM nhận diện và từ chối các lệnh độc hại chính xác hơn so với các phương pháp tinh chỉnh truyền thống.