Nghiên cứu từ Apple: LLM không phải lúc nào cũng tuân theo lý thuyết xác suất Bayes

Tác giả: Chacha Chen‡, Matthew Jörke†‡**, Adam Goliński, Masha Fedzechkina, Guillermo Sapiro, Sinead Williamson, Nicholas Foti

Các hệ thống AI hiện đại đang được triển khai trong những lĩnh vực phức tạp như y học, khoa học và luật pháp, nơi thường không có một câu trả lời duy nhất dựa trên các bằng chứng quan sát được. Những hệ thống này phải có khả năng biểu diễn và cập nhật các niềm tin không chắc chắn về thế giới khi có bằng chứng mới để đưa ra các quyết định hợp lý. Chúng tôi giới thiệu một kỹ thuật mới nhằm nghiên cứu các LLM như những quy tắc xử lý thông tin và tận dụng khoảng cách xử lý thông tin—độ lệch so với các cập nhật Bayes—để nghiên cứu tính (không) nhất quán nội tại trong cách các LLM cập nhật niềm tin xác suất của chúng từ bằng chứng. Các thử nghiệm sâu rộng của chúng tôi đánh giá nhiều phương pháp mà LLM có thể sử dụng để kết hợp bằng chứng vào niềm tin của chúng. Một số phương pháp tạo ra các cập nhật (gần như) Bayes, từ đó xử lý bằng chứng một cách tối ưu; những phương pháp khác sử dụng một heuristic đã học. Đáng ngạc nhiên là các cập nhật heuristic phi Bayes thường vượt trội hơn các cập nhật Bayes chính xác (xử lý thông tin tối ưu) về hiệu suất tác vụ hạ nguồn—cho thấy các mô hình xác suất về thế giới của LLM đã bị xác định sai. Cuối cùng, chúng tôi chỉ ra cách thước đo của mình có thể cung cấp các chẩn đoán để xác định các vấn đề với các hệ thống suy luận dựa trên LLM.

Các bài đọc và cập nhật liên quan.

Khi việc áp dụng các mô hình ngôn ngữ ngày càng tiến bộ, nhu cầu biểu diễn tốt hơn từng người dùng cá nhân đối với mô hình cũng tăng theo. Liệu có những khía cạnh nào trong hệ thống niềm tin của một cá nhân mà mô hình ngôn ngữ có thể tận dụng để cải thiện sự căn chỉnh (alignment) không? Tiếp nối các nghiên cứu trước đây, chúng tôi điều tra câu hỏi này trong lĩnh vực dự đoán ý kiến bằng cách phát triển PrimeX, một tập dữ liệu khảo sát ý kiến công chúng từ 858 cư dân Hoa Kỳ với hai nguồn thông tin niềm tin bổ sung:…

Đọc thêm

Các mô hình ngôn ngữ lớn (LLM) thường xuyên được cập nhật để nâng cao hiệu suất, điển hình là thông qua các thay đổi về dữ liệu hoặc kiến trúc. Trong quá trình cập nhật, các nhà phát triển thường ưu tiên cải thiện các chỉ số hiệu suất tổng thể, ít chú trọng đến việc duy trì khả năng tương thích với các phiên bản mô hình trước đó. Sự suy giảm hiệu suất ở cấp độ thực thể (instance regression) từ phiên bản mô hình này sang phiên bản tiếp theo có thể gây ảnh hưởng đến mô hình tư duy của người dùng về…

Đọc thêm