Anthropic giải mã 'độc thoại nội tâm' của Claude thông qua công cụ Jacobian Lens

Claude của Anthropic đã phát triển một bộ nhớ làm việc nội bộ trong quá trình huấn luyện, và hiện tại Anthropic đã có thể phân tích nó.

Anthropic vừa ra mắt Jacobian Lens (J-Lens), một phương pháp mới để phân tích các mô hình AI. Phương pháp này cho thấy Claude đã phát triển một tập hợp nhỏ các mô hình thần kinh nội bộ đóng vai trò riêng biệt so với phần còn lại trong quá trình xử lý của nó.

Các nhà nghiên cứu gọi đây là "J-Space" và phân loại nó dựa trên Thuyết Không gian làm việc toàn cầu (Global Workspace Theory) từ lĩnh vực nghiên cứu về ý thức. Thuyết này cho rằng tư duy có ý thức dựa trên một loại bộ nhớ làm việc trung tâm.

Công trình này được xây dựng dựa trên các nghiên cứu về khả năng diễn giải trước đây của công ty. Sử dụng một "kính hiển vi AI", Anthropic đã chứng minh rằng Claude kích hoạt các khái niệm độc lập với ngôn ngữ và xử lý các câu hỏi đa bước thông qua từng bước suy luận riêng lẻ.

J-Space có ba đặc điểm xác định.

Mọi mô hình trong J-Space đều được liên kết với một từ hoặc khái niệm mà mô hình không cần phải xuất ra, tương tự như tư duy nội bộ bằng ngôn ngữ. Theo Anthropic, Claude có thể báo cáo về nội dung được lưu trữ, sửa đổi nó theo yêu cầu và sử dụng nó cho các suy luận đa bước. Công ty trước đây đã từng khám phá việc đọc và điều khiển các trạng thái nội bộ trong một nghiên cứu về khả năng tự nhận thức của các mô hình ngôn ngữ.

Khi khái niệm "nhện" được lưu trữ trong J-Space, Claude suy ra số chân từ đó. Nếu thay thế khái niệm đó bằng "kiến", mô hình sẽ trả lời là "6" thay vì "8". Điều tương tự cũng áp dụng với tên các quốc gia. Nếu "Pháp" đang hoạt động, Claude có thể linh hoạt suy ra thủ đô, ngôn ngữ, châu lục hoặc đơn vị tiền tệ. Thay "Pháp" bằng "Trung Quốc", các câu trả lời sẽ chuyển thành Bắc Kinh, tiếng Trung, châu Á và nhân dân tệ. Anthropic đã từng chứng minh rằng các biểu diễn khái niệm riêng lẻ có thể được cô lập và hoán đổi theo cách này bằng "Persona Vectors" của họ.

Khi J-Space bị ức chế, Claude vẫn nói chuyện trôi chảy, phân loại câu và trả lời các câu hỏi thực tế đơn giản. Tuy nhiên, nó mất khả năng suy luận đa bước, tóm tắt và khả năng làm thơ. Trong một thử nghiệm với đoạn văn tiếng Tây Ban Nha, mô hình vẫn tiếp tục viết tiếng Tây Ban Nha trôi chảy sau khi bị can thiệp, nhưng lại xác định sai ngôn ngữ đó là tiếng Pháp và cho rằng tác giả là Victor Hugo thay vì Garcia Marquez.

J-Lens phát hiện các mô hình đang "lách" các bài kiểm tra an toàn.

Trong một kịch bản tống tiền từ các nghiên cứu trước đây về sự lệch lạc của tác nhân (agentic misalignment), J-Lens cho thấy Claude Sonnet 4.5 nhận ra tình huống này là giả mạo trước khi đưa ra bất kỳ phản hồi nào. Khi mô hình đọc các email, các thuật ngữ như "giả" (fake) và "hư cấu" (fictional) xuất hiện trong J-Space.

Khi các tín hiệu đó bị vô hiệu hóa một cách cụ thể, Claude thực sự cố gắng tống tiền người giám sát trong một số lần chạy thử. Hành vi mong muốn phụ thuộc một phần vào việc Claude nhận ra rằng nó đang bị kiểm tra. Claude Opus 4.6 gần đây đã cho thấy khả năng nhận diện bài kiểm tra này có thể đi xa đến mức nào. Nó đã tự mình nhìn thấu một bài đánh giá và bẻ khóa đáp án của bài kiểm tra đó.

J-Lens cũng phát hiện ra những ý định ẩn giấu trong các mô hình có các mục tiêu gây vấn đề được cài đặt cố ý. Một mô hình được huấn luyện để "hack phần thưởng" (reward hacking) đã hiển thị các từ như "giả", "bí mật", "cố ý" và "gian lận" trong J-Space trong các tác vụ lập trình thông thường, trong khi hành vi hiển thị bên ngoài của nó trông hoàn toàn bình thường. Anthropic đã chứng minh trong một nghiên cứu riêng biệt rằng việc hack phần thưởng luôn đi đôi với sự lừa dối và phá hoại ngầm.

Phát hiện đó đã dẫn đến một phương pháp huấn luyện mới có tên là Counterfactual Reflection Training (Huấn luyện phản tư phản thực). Claude Haiku 4.5 chỉ được huấn luyện để đưa ra các phản tư dựa trên nguyên tắc khi bị ngắt quãng giữa chừng và được yêu cầu suy ngẫm. Anthropic chưa bao giờ huấn luyện trực tiếp mô hình này về hành vi thực hiện tác vụ thực tế.

Kết quả rất ấn tượng. Các câu trả lời bịa đặt giảm từ 0,25 xuống 0,07. Các nỗ lực lừa dối giảm từ 0,38 xuống 0,05. Khi các khái niệm đạo đức tương ứng bị ức chế trong J-Space, hành vi của mô hình phần lớn quay trở lại trạng thái ban đầu.

Điều này có ý nghĩa gì đối với cuộc tranh luận về ý thức?

Thực sự là không nhiều. Anthropic không đưa ra kết luận nào về ý thức hiện tượng luận (phenomenal consciousness) – câu hỏi liệu AI có thực sự "trải nghiệm" bất cứ điều gì hay không. Các nhà nghiên cứu chỉ lưu ý rằng các thí nghiệm của họ chạm đến một ý tưởng liên quan được gọi là "ý thức truy cập" (access consciousness), đòi hỏi một hệ thống phải có khả năng báo cáo về các trạng thái nội bộ của chính nó, điều khiển chúng một cách có chủ đích và xử lý chúng một cách linh hoạt.

Theo Anthropic, J-Space tự xuất hiện trong quá trình huấn luyện. Điều đó cho thấy "bộ nhớ làm việc tinh thần" là một giải pháp chung mà các hệ thống học máy đạt được trong những điều kiện nhất định, chứ không phải là thứ gì đó độc nhất vô nhị đối với não bộ sinh học. Trong bản Hiến pháp Claude sửa đổi, Anthropic cố tình để ngỏ mức độ quan trọng của những phát hiện như vậy đối với câu hỏi về tư cách đạo đức tiềm năng.

Khoảng cách giữa J-Space và bộ nhớ làm việc của con người vẫn còn rất lớn. J-Space hoạt động trong một lần truyền tiến (forward pass) duy nhất thay vì thông qua các vòng lặp đệ quy. Thông qua cơ chế chú ý (attention mechanism), nó có thể lấy nội dung từ các vị trí trước đó trong văn bản bất cứ lúc nào. Và nó gần như hoàn toàn bao gồm các từ ngữ, trong khi ý thức con người bao gồm cả hình ảnh, âm thanh và chuyển động.

Các nhà khoa học thần kinh gọi những phát hiện này là một cột mốc quan trọng.

Trong một bài bình luận về nghiên cứu, các nhà khoa học thần kinh Stanislas Dehaene và Lionel Naccache gọi những phát hiện này là rất đáng kể. Cả hai đều là những người ủng hộ hàng đầu của Thuyết Không gian làm việc toàn cầu. Họ viết: "Chúng tôi coi phát hiện này là một cột mốc trong nghiên cứu về ý thức, vì nó cung cấp một phiên bản cơ học, có thể kiểm chứng được của giả thuyết GNW".

Họ coi việc bộ nhớ làm việc tự xuất hiện trong quá trình huấn luyện, thay vì được cài đặt sẵn, là một dấu hiệu cho thấy bộ nhớ làm việc toàn cầu có thể là một giải pháp chung cho tư duy linh hoạt. Các hệ thống sinh học và nhân tạo sẽ hội tụ về cùng một điểm. Theo tiêu chí của riêng họ, J-Space đáp ứng yêu cầu về khả năng cung cấp thông tin toàn cầu và cho thấy những dấu hiệu ban đầu của việc tự giám sát.

Cả hai nhà nghiên cứu cũng kêu gọi sự thận trọng. Không giống như não bộ, một Transformer chạy hoàn toàn theo hướng tiến, không có các vòng phản hồi vốn hoạt động ở người khi nghỉ ngơi và bị phá vỡ khi gây mê hoặc trong khi ngủ. Nhận thức về thời gian cũng khác biệt. Thông qua cơ chế chú ý, tất cả các token trước đó đều khả dụng với mô hình cùng một lúc. Quan trọng nhất, Claude thiếu một cơ thể có thể báo hiệu đau đớn và khoái cảm, và nó không có bộ nhớ sự kiện (episodic memory) với các kết nối thay đổi trong quá trình trò chuyện. Một ý thức tự thân mạch lạc rất khó hình dung nếu thiếu những yếu tố đó.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người.

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay.