Tại sao AI vẫn cố trả lời những câu hỏi vô nghĩa? Nghiên cứu về sự lệch lạc trong nhận thức của LLM

Tóm tắt AI

Nghiên cứu chỉ ra rằng các mô hình ngôn ngữ lớn có khả năng nhận diện câu hỏi vô lý trước khi tạo văn bản, nhưng lại thất bại trong việc từ chối do sự lệch lạc giữa cơ chế nhận thức và cơ chế an toàn.