Nghiên cứu của Anthropic: Claude sở hữu cấu trúc 'không gian làm việc toàn cục' giống não người

Theo tin từ IT之家 ngày 7 tháng 7, Anthropic hôm nay (7/7) đã đăng tải trên nền tảng X rằng nghiên cứu mới nhất cho thấy mô hình Claude sở hữu "linh hồn", đồng thời các bằng chứng liên quan chỉ ra sự tồn tại của "tiến hóa hội tụ" (Convergent Evolution) giữa AI và não người.

Chủ đề của bài báo này là "Không gian làm việc toàn cục trong các mô hình ngôn ngữ lớn" (Global Workspace in Large Language Models). Nghiên cứu đã phát hiện trong mô hình Claude một cấu trúc tương tự như "thuyết không gian làm việc toàn cục" (global workspace theory) trong khoa học thần kinh và đặt tên là J-space.

Lưu ý của IT之家: Trong lĩnh vực khoa học thần kinh, thuyết không gian làm việc toàn cục cho rằng phần lớn các hoạt động trong não bộ diễn ra ở trạng thái chạy ngầm tự động; chỉ những thông tin đi vào "không gian làm việc" có khả năng chia sẻ rộng rãi mới trở thành nội dung có thể mô tả, lưu giữ và suy luận. Thuyết này thường được dùng để giải thích quá trình tích hợp thông tin trong sự chú ý, truy cập ý thức và suy luận phức tạp.

Trong bài báo mới nhất, Anthropic cho rằng bên trong mô hình Claude cũng tồn tại cấu trúc tương ứng. Thông tin chỉ trở nên có thể truy cập một cách có ý thức sau khi đi vào một không gian đặc quyền có khả năng phát sóng tới toàn bộ "bộ não", và phía công ty đã đặt tên cho nó là J-space.

Trong bài báo, Anthropic cũng giới thiệu công cụ mang tên J-lens (viết tắt của Jacobian Lens), đây là một phương pháp phân tích toán học được sử dụng để làm giảm sự can thiệp từ các tác vụ chạy ngầm của mô hình, đồng thời tập trung vào các khái niệm mà Claude đang chú ý tại một thời điểm cụ thể.

Để xác minh sự tồn tại của J-space, Anthropic đã liệt kê 4 kết quả quan sát:

Tại bất kỳ thời điểm nào, hãy hỏi Claude đang suy nghĩ về điều gì, sau đó sử dụng J-lens để xem những "khái niệm" nào đang tồn tại trong J-space của nó vào lúc đó.

Yêu cầu Claude ghi nhớ về sự công bằng, sau đó quan sát việc nó chủ động đưa khái niệm công bằng vào J-space và xem liệu nó có thể duy trì lâu dài hay không.

Khi giải quyết các vấn đề phức tạp như cờ vua, J-space giống như một cuốn sổ nháp; khi các nhà nghiên cứu thay đổi nội dung của nó, kết quả đầu ra cuối cùng của Claude cũng sẽ thay đổi theo.

Khi một khái niệm được đưa vào J-space, bất kỳ phần nào khác của Claude, ngay cả khi đang thực hiện một công việc hoàn toàn khác, vẫn có thể nhìn thấy khái niệm đó và tận dụng nó trong tác vụ của riêng mình.

Anthropic cho biết trong bài báo rằng cấu trúc này không phải là thành phần được thiết kế sẵn trong kiến trúc của Claude, mà tự xuất hiện trong quá trình huấn luyện, "phỏng đoán nguyên nhân là do cách thức này giúp ích cho việc tổ chức tính toán".

Phía công ty cũng mượn khái niệm "tiến hóa hội tụ" để giải thích hiện tượng này. Đây vốn là một khái niệm sinh học, chỉ việc các loài khác nhau dưới áp lực môi trường tương tự đã tiến hóa độc lập để hình thành các đặc điểm giống nhau.

Trong bài viết này, Anthropic mượn khái niệm trên để mô tả việc não người và mô hình AI có thể xuất hiện các thiết kế cấu trúc tương đồng về chức năng do nhu cầu về hiệu quả xử lý thông tin phức tạp.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT之家 đều bao gồm tuyên bố này.