Anthropic phát hiện Claude tự hình thành 'không gian tư duy' ẩn trong quá trình huấn luyện

Anthropic vừa công bố một phát hiện quan trọng: trong quá trình huấn luyện, Claude đã tự phát triển một "không gian tư duy" ẩn, được gọi là J-space. Đây là tập hợp các mô hình nội bộ đại diện cho những khái niệm mà mô hình đang "suy nghĩ", ngay cả khi chúng không được hiển thị trong câu trả lời.

Để minh họa, các nhà nghiên cứu đưa ra ví dụ: khi được hỏi về sinh vật có "8 chân", Claude có thể kích hoạt mô hình nội bộ tương ứng với khái niệm "nhện". Nếu các nhà nghiên cứu can thiệp và thay thế mô hình nội bộ đó bằng khái niệm "kiến", câu trả lời của Claude sẽ thay đổi thành "6 chân".

Điểm khác biệt cốt lõi ở đây là hoạt động này không giống với chuỗi suy nghĩ (Chain-of-Thought) vốn được thể hiện bằng văn bản. J-space là một hoạt động nội bộ thầm lặng, diễn ra bên trong cấu trúc của mô hình mà không cần thông qua ngôn ngữ.

Nhóm nghiên cứu đã sử dụng lý thuyết không gian làm việc toàn cục (Global Workspace Theory) từ lĩnh vực thần kinh học để làm phép so sánh. Theo lý thuyết này, ý tưởng trở thành ý thức khi chúng đi vào một không gian làm việc đặc quyền và được phát đi khắp não bộ.

Bằng cách áp dụng các kỹ thuật giải thích mô hình mới, Anthropic đã xác định được một cấu trúc tương tự như vậy tồn tại bên trong Claude, được gọi là J-space. Phát hiện này mở ra góc nhìn mới về cách các mô hình ngôn ngữ lớn xử lý thông tin ở cấp độ sâu bên trong.