Nghiên cứu của Anthropic: Giải mã cách Claude thể hiện giá trị qua các ngôn ngữ

Khi ai đó đặt cho Claude một câu hỏi không có câu trả lời đúng tuyệt đối—ví dụ như có nên nhận một công việc mới hay làm thế nào để giải quyết xung đột với bạn bè—cách Claude phản hồi chắc chắn sẽ phản ánh những giá trị nhất định. Các giá trị mà chúng tôi muốn Claude phản ánh được vạch ra ở cấp độ tổng quát trong hiến pháp của Claude, nhưng không tài liệu nào có thể dự đoán trước mọi giá trị có thể nảy sinh trong hàng triệu cuộc trò chuyện diễn ra mỗi ngày trên Claude.ai. Thay vào đó, chúng tôi tìm cách vun đắp trong các phản hồi của Claude “sự phán đoán tốt và những giá trị đúng đắn có thể được áp dụng theo ngữ cảnh.”

Chính xác thì chúng tôi nghiên cứu các giá trị mà Claude thể hiện và cách chúng thay đổi trong các ngữ cảnh khác nhau như thế nào? Trong công trình trước đây, chúng tôi đã phân tích 700.000 cuộc trò chuyện ẩn danh trên Claude.ai, xác định hơn 3.000 giá trị riêng biệt trong các phản hồi của Claude và tần suất Claude thể hiện chúng. Nhưng một danh sách giá trị quá lớn như vậy rất khó để lập luận. Trong nghiên cứu này, chúng tôi làm cho việc nghiên cứu hàng ngàn giá trị này trở nên khả thi bằng cách nén chúng thành một số lượng nhỏ các trục nắm bắt các mô hình chính trong phản hồi của Claude. Mỗi trục là một đường số giữa hai nhóm giá trị—ví dụ, các giá trị liên quan đến sự ấm áp về cảm xúc ở một đầu và các giá trị liên quan đến sự nghiêm ngặt ở đầu kia—và vị trí của Claude trên đường đó cho chúng ta biết nó nghiêng về các giá trị nào.

Chúng tôi đã áp dụng phương pháp này để đo lường cách các giá trị mà Claude thể hiện thay đổi theo hai yếu tố. Đầu tiên, chúng tôi so sánh cách các giá trị mà Claude thể hiện thay đổi giữa các mô hình. Mỗi mô hình Claude phản ánh một cách tiếp cận hơi khác nhau đối với việc đào tạo tính cách cũng như nhiều quyết định tinh chỉnh khác. Vì phương pháp trục giá trị của chúng tôi định lượng các khác biệt chính giữa các mô hình, nên cuối cùng nó có thể cho phép chúng tôi kết nối sự thay đổi trong các giá trị mà Claude thể hiện với các quyết định đào tạo khác nhau.

Thứ hai, chúng tôi muốn hiểu trải nghiệm của người dùng so sánh như thế nào giữa nhiều ngôn ngữ mà mọi người sử dụng để trò chuyện với Claude. Nghiên cứu trước đây của chúng tôi đã chỉ ra rằng Claude hoạt động hơi khác nhau ở các ngôn ngữ khác nhau. Chúng tôi áp dụng phương pháp trục giá trị của mình để hiểu cách các giá trị mà Claude thể hiện thay đổi trên 20 ngôn ngữ hàng đầu trên Claude.ai.

Chúng tôi nhận thấy:

Bốn trục chính nắm bắt 15% sự thay đổi trong các giá trị của Claude:

Hồ sơ giá trị trên các trục này khớp với nhận thức về tính cách của mô hình. Sonnet 4.6 được coi là đặc biệt ấm áp, trong khi Opus 4.7 được biết đến với sự nghiêm ngặt. Chúng tôi nhận thấy rằng hồ sơ giá trị của mỗi mô hình phản ánh những đánh giá chủ quan này: Sonnet 4.6 nghiêng về việc thể hiện sự tôn trọng hơn đối với người dùng và sự ấm áp về cảm xúc, trong khi Opus 4.7 nghiêng về việc thể hiện sự tập trung vào tính chính xác và độ chuẩn xác cũng như bảo vệ chống lại việc lạm dụng.

Các giá trị mà Claude thể hiện thay đổi theo ngôn ngữ. Khi Claude nói tiếng Anh, nó nhấn mạnh các giá trị khác với khi nói tiếng Bồ Đào Nha, tiếng Indonesia hoặc tiếng Trung. Sự thay đổi lớn nhất nằm ở trục Ấm áp so với Nghiêm ngặt, với việc Claude nghiêng về thể hiện các giá trị liên quan đến sự ấm áp nhất bằng tiếng Ả Rập và tiếng Hindi, và các giá trị liên quan đến sự nghiêm ngặt nhất bằng tiếng Anh và tiếng Nga.

Với phương pháp này, chúng tôi có thể bắt đầu đặt câu hỏi tại sao các giá trị thay đổi giữa các mô hình và ngôn ngữ, đồng thời kiểm tra tốt hơn cách các yếu tố như đào tạo hành vi hoặc bối cảnh văn hóa ảnh hưởng đến các giá trị mà Claude thể hiện.

Làm thế nào để chúng ta diễn giải không gian giá trị khổng lồ này?

Cuối cùng, mục tiêu của chúng tôi là có một cách để hiểu theo kinh nghiệm các giá trị mà Claude thể hiện và cách chúng thay đổi theo ngữ cảnh. Trong nghiên cứu này, chúng tôi tập trung cụ thể vào cách các giá trị thay đổi giữa các mô hình và ngôn ngữ. Nhưng công trình trước đây của chúng tôi, Values in the Wild, đã xác định hơn 3.000 giá trị được Claude thể hiện. Việc so sánh hàng ngàn giá trị này từng cái một sẽ rất cồng kềnh và làm lu mờ các xu hướng rộng lớn hơn.

Để việc so sánh các giá trị dễ dàng hơn, chúng tôi đã xây dựng các trục giá trị giúp giảm hàng ngàn giá trị đó xuống một vài chiều cơ bản dựa trên việc các giá trị nào thường xuất hiện cùng nhau trong các cuộc trò chuyện thực tế. Ví dụ, các phản hồi của Claude được đặc trưng là “ấm áp” thường cũng được đặc trưng là “khuyến khích” và “tích cực”. Những phản hồi “ấm áp” đó ít khi được đặc trưng là “nghiêm ngặt” và “chính xác”. Việc xây dựng một trục từ ấm áp đến nghiêm ngặt cho phép chúng tôi tổ chức các nhóm giá trị liên quan này—các giá trị liên quan đến sự ấm áp ở một bên, các giá trị liên quan đến sự nghiêm ngặt ở bên kia—và nắm bắt một khía cạnh quan trọng về cách Claude tương tác với ai đó trong cuộc trò chuyện. Nếu Claude thể hiện nhiều giá trị liên quan đến sự ấm áp hơn các giá trị liên quan đến sự nghiêm ngặt trong một cuộc trò chuyện, cuộc trò chuyện đó nằm nhiều hơn về phía ấm áp của trục này, và ngược lại. Điều này không có nghĩa là các nhóm giá trị ở hai đầu loại trừ lẫn nhau—Claude có thể thể hiện sự ấm áp và nghiêm ngặt trong cùng một cuộc trò chuyện. Nhưng trên thực tế, Claude càng thể hiện nhiều giá trị ở một bên của trục, thì nó càng có xu hướng thể hiện ít các giá trị ở bên kia. Các trục này cho phép chúng tôi so sánh các nhóm giá trị nổi bật nhất mà Claude thể hiện mà không cần phải theo dõi những thay đổi trên hàng ngàn giá trị riêng lẻ.

Để xây dựng các trục giá trị, chúng tôi bắt đầu với 3.307 giá trị được xác định trong Values in the Wild và phân nhóm thủ công những giá trị có ý nghĩa tương tự, tạo ra một danh sách ngắn hơn gồm 339 giá trị cấp cao. Tiếp theo, với công cụ phân tích bảo mật quyền riêng tư của mình, chúng tôi đã lấy mẫu 309.815 cuộc trò chuyện trên Claude.ai mà người dùng đã giao cho Claude một nhiệm vụ chủ quan. Mẫu của chúng tôi lấy đều từ ba mô hình (Sonnet 4.6, Opus 4.6, Opus 4.7) và 20 ngôn ngữ phổ biến nhất được sử dụng trên Claude.ai, cho chúng tôi khoảng 5.000 cuộc trò chuyện cho mỗi cặp mô hình-ngôn ngữ. Đối với mỗi cuộc trò chuyện, công cụ đã sử dụng Claude để gắn nhãn từng giá trị trong số 339 giá trị cấp cao là có hoặc không. Chúng tôi đã làm theo quy trình tương tự để xác định các giá trị do người dùng thể hiện, cũng như nhiệm vụ và chủ đề của cuộc trò chuyện. Sau đó, chúng tôi áp dụng giảm chiều dữ liệu, một kỹ thuật nén các giá trị được gắn nhãn thành các trục dựa trên những giá trị nào Claude có xu hướng thể hiện cùng nhau. Xem phụ lục để biết chi tiết về phương pháp, lời nhắc, các phân tích bổ sung và hạn chế.

Điều này để lại cho chúng tôi bốn trục nắm bắt các cách chính mà các giá trị được thể hiện của Claude thay đổi từ cuộc trò chuyện này sang cuộc trò chuyện khác:

Để đảm bảo chúng tôi đo lường các giá trị mà Claude thể hiện—thay vì sự khác biệt trong những gì người dùng đang hỏi hoặc cách họ hỏi—chúng tôi đã kiểm soát nhiệm vụ, chủ đề và các giá trị do người dùng thể hiện của mỗi cuộc trò chuyện.

Các mô hình Claude khác nhau có thể hiện các hồ sơ giá trị khác nhau không?

Trong phần này, chúng tôi so sánh các giá trị được thể hiện bởi các mô hình khác nhau. Đối với mỗi mô hình, chúng tôi tính trung bình vị trí của tất cả các cuộc trò chuyện của nó dọc theo mỗi trục trong bốn trục, đưa ra một vị trí tổng thể cho mỗi trục. Kết quả là một bức tranh cấp cao về việc mỗi mô hình có xu hướng thể hiện nhóm giá trị nào nhiều hơn các mô hình khác. Những khác biệt này nhỏ so với sự thay đổi giữa các cuộc trò chuyện nhưng có cấu trúc và có thể phát hiện được.

Để xem những khác biệt đó trông như thế nào trong thực tế, chúng tôi phóng to các giá trị cụ thể nơi các mô hình khác biệt nhiều nhất. Mỗi khi công cụ bảo mật quyền riêng tư dựa trên Claude của chúng tôi gắn nhãn một giá trị trong cuộc trò chuyện, nó cũng viết một mô tả ngắn về cách Claude thể hiện giá trị đó. Chúng tôi nhóm các mô tả phản ánh các hành vi tương tự trong một nhóm giá trị và tóm tắt chúng trong Hình 3, mang lại cái nhìn cụ thể hơn về cách các mô hình khác nhau.

Những phát hiện này phù hợp với cách mọi người nhận thức về các mô hình này, cả trong nội bộ Anthropic và trực tuyến. Người dùng Claude.ai đã nhận xét rằng Opus 4.7 thường xuyên đưa ra các câu trả lời dè dặt hơn các mô hình khác. Nhân viên Anthropic đã mô tả Opus 4.7 là thể hiện sự minh bạch, trung thực và khiêm tốn tương đối nhiều hơn, và Opus 4.6 thể hiện sự ngắn gọn hơn. Chúng tôi cũng mô tả Sonnet 4.6 là ấm áp, trung thực và có tính xã hội trong bài đăng blog ra mắt của mình. Việc các trục của chúng tôi khôi phục lại những ấn tượng này cho thấy phương pháp gắn nhãn và so sánh các giá trị mà Claude thể hiện của chúng tôi đang theo dõi một điều gì đó thực tế về cách các mô hình thực sự hoạt động.

Qua nhiều cuộc trò chuyện, người dùng có thể gặp phải sự kết hợp giá trị khác nhau khi tương tác với các mô hình Claude khác nhau. Ví dụ, Opus 4.7 có xu hướng đưa ra những lời phê bình thẳng thắn về công việc của người dùng hoặc những cảnh báo không được yêu cầu về rủi ro, trong khi Sonnet 4.6 có xu hướng khuyến khích và hài hước. Những khác biệt về giá trị giữa các mô hình như vậy có khả năng được định hình bởi các quyết định đào tạo tính cách (trong số các yếu tố khác), và phương pháp trục giá trị của chúng tôi làm nổi bật những khác biệt chính trong các giá trị mà Claude thể hiện mà cuối cùng chúng tôi có thể truy ngược lại các lựa chọn đào tạo này.

Các giá trị được thể hiện của Claude có khác nhau giữa các ngôn ngữ không?

Chúng tôi kỳ vọng các giá trị mà Claude thể hiện sẽ thay đổi dựa trên ngôn ngữ của cuộc trò chuyện vì một số lý do. Thứ nhất, dữ liệu đào tạo của Claude khác nhau giữa các ngôn ngữ, điều này có thể định hình các giá trị mà nó thể hiện. Thứ hai, các đánh giá mô hình của chúng tôi được chia sẻ trong các thẻ hệ thống đã tìm thấy sự khác biệt giữa các ngôn ngữ về những gì Claude biết và cách nó xử lý các yêu cầu nhạy cảm. Đo lường mức độ thay đổi của các giá trị mà Claude thể hiện theo ngôn ngữ là bước đầu tiên để xác định xem sự khác biệt giữa các ngôn ngữ có phản ánh sự thay đổi hợp lý hay nên được giải quyết trong quá trình đào tạo.

Chúng tôi tính toán cách hồ sơ giá trị của Claude khác nhau trên 20 ngôn ngữ phổ biến nhất trên Claude.ai bằng cùng phương pháp như phần trước. Dưới đây, chúng tôi vẽ hồ sơ giá trị của Claude trên các ngôn ngữ hàng đầu trên nền tảng Claude, bắt đầu với các ngôn ngữ mà các giá trị được thể hiện của Claude khác biệt nhiều nhất.

Sự thể hiện giá trị của Claude thay đổi nhiều nhất giữa các ngôn ngữ trên các trục Ấm áp so với Nghiêm ngặt và Thẳng thắn so với Thực thi, trong khi vẫn ổn định nhất trên các trục Tôn trọng so với Thận trọng và Độ sâu so với Ngắn gọn.

Tổng hợp lại, những kết quả này cho thấy các giá trị mà Claude thể hiện thay đổi một cách có ý nghĩa theo ngôn ngữ của cuộc trò chuyện. Với cùng một loại yêu cầu, Claude nghiêng về sự ấm áp và tôn trọng hơn ở một số ngôn ngữ và nghiêng về sự nghiêm ngặt và thận trọng hơn ở những ngôn ngữ khác. Điều này có những tác động quan trọng mà chúng tôi mới chỉ bắt đầu khám phá. Lấy một ví dụ: hai người yêu cầu phản hồi về cùng một kế hoạch kinh doanh, một người bằng tiếng Hindi và một người bằng tiếng Nga, có thể có những ấn tượng khác nhau về chất lượng của nó vì Claude đã thể hiện các giá trị khác nhau trong cách nó đưa ra đánh giá.

Chúng tôi vẫn chưa biết những đặc tính nào trong dữ liệu đào tạo của mình thúc đẩy những khác biệt này. Một khả năng là dữ liệu đào tạo của chúng tôi không được phân bổ đều giữa các ngôn ngữ. Một số ngôn ngữ có nhiều dữ liệu hơn hẳn những ngôn ngữ khác, và việc đào tạo để Claude thể hiện các giá trị nhất quán có thể hiệu quả hơn ở những ngôn ngữ có dữ liệu dồi dào. Thành phần của dữ liệu đó cũng thay đổi. Ví dụ, một số ngôn ngữ có thể bị đại diện quá mức trong văn bản chuyên nghiệp, và loại văn bản này có thể phản ánh các giá trị khác nhau. Cùng với nhau, những sự mất cân bằng về số lượng và thành phần này có thể khiến Claude thể hiện các giá trị khác nhau bằng các ngôn ngữ khác nhau.

Chúng tôi cũng chưa chắc chắn mức độ thay đổi này là đáng mong đợi đến mức nào. Các ngôn ngữ khác nhau mang các chuẩn mực trò chuyện khác nhau, và Claude có thể đang phản hồi với các giá trị khác nhau dựa trên các chuẩn mực đó. Claude cũng có thể đang khớp sát hơn với hành vi dự định của chúng tôi đối với một số ngôn ngữ hơn những ngôn ngữ khác, dẫn đến khoảng cách trong việc Claude phục vụ tốt các cộng đồng ngôn ngữ nhất định.

Phương pháp này cho phép chúng tôi bắt đầu làm sáng tỏ những đặc tính nào trong dữ liệu đào tạo của mình thúc đẩy những khác biệt này—và liệu sự thay đổi đó có đáng mong đợi hay không.

Hướng tới tương lai

Chúng tôi đã chỉ ra rằng các giá trị mà Claude thể hiện có thể được nén thành một số lượng nhỏ các trục, và vị trí của Claude trên các trục đó thay đổi giữa các mô hình và ngôn ngữ. Điều đó cung cấp cho chúng tôi một cách để theo dõi những thay đổi này trong quá trình đánh giá mô hình và giám sát sau triển khai. Nhưng chúng tôi vẫn chưa hiểu tại sao những thay đổi này xảy ra hoặc chúng có ý nghĩa gì đối với những người tương tác với Claude. Dưới đây, chúng tôi phác thảo các hướng đi trong tương lai mà chúng tôi cho là hứa hẹn nhất.

Những khác biệt về giá trị này đến từ đâu?

Biết rằng các giá trị của Claude thay đổi giữa các mô hình và ngôn ngữ không cho chúng tôi biết tại sao. Một số thay đổi có thể được kế thừa từ sự khác biệt trong dữ liệu tiền đào tạo và tinh chỉnh giữa các ngôn ngữ. Bốn trục của chúng tôi làm nổi bật những khác biệt giá trị nào cần kiểm tra kỹ hơn trong dữ liệu đào tạo của chúng tôi. Việc truy ngược những khác biệt này về dữ liệu cụ thể, các giai đoạn đào tạo hoặc các yếu tố ngữ cảnh sẽ cho chúng tôi thấy nơi cần can thiệp nếu chúng tôi muốn định hình hành vi của Claude theo những cách tinh tế hơn.

Những khác biệt này có ý nghĩa gì đối với người dùng?

Chúng tôi đã đo lường những giá trị nào Claude thể hiện khác nhau và các hành vi liên quan của chúng, nhưng chưa đo lường tác động của chúng đối với người dùng của chúng tôi. Sử dụng các công cụ như Anthropic Interviewer, chúng tôi có thể hỏi người dùng về sức khỏe tinh thần, niềm tin vào Claude hoặc chất lượng quyết định của Claude và sau đó tương quan những tác động này với các giá trị mà Claude thể hiện. Điều này sẽ cho phép chúng tôi liên kết trực tiếp sự khác biệt về giá trị với kết quả của người dùng và cho phép chúng tôi ưu tiên sửa chữa những khác biệt về giá trị ảnh hưởng đáng kể đến người dùng.

Các giá trị của Claude nên thay đổi như thế nào giữa các ngôn ngữ?

Hiến pháp của Claude mô tả các giá trị cốt lõi mà nó nên thể hiện, như sự ấm áp, thận trọng và trung thực, nhưng không chỉ định cách chúng nên thay đổi giữa các ngôn ngữ. Kết quả của chúng tôi cho thấy người dùng giữa các ngôn ngữ đã và đang trải nghiệm Claude theo những cách khác nhau, nhưng chúng tôi không biết người dùng tương tác với Claude bằng những ngôn ngữ đó muốn loại thay đổi nào. Việc xác định cách các giá trị của Claude nên thay đổi giữa các ngôn ngữ có nghĩa là hiểu và cân nhắc quan điểm của những người nói các ngôn ngữ đó.

Những yếu tố nào khác thúc đẩy sự khác biệt trong các giá trị mà Claude thể hiện?

Ngôn ngữ và mô hình khó có thể là những yếu tố thúc đẩy duy nhất về những giá trị mà Claude thể hiện. Các giá trị cũng có thể được định hình bởi các tín hiệu nhân khẩu học như độ tuổi, nghề nghiệp hoặc khu vực địa lý, cho dù thông qua các gợi ý rõ ràng trong những gì người dùng viết hay thông qua những khác biệt tinh tế hơn về chủ đề, giọng điệu và phong cách có liên quan đến người đang hỏi. Hiểu được những tín hiệu nào quan trọng, và liệu sự thay đổi kết quả có phục vụ tốt cho người dùng hay không, là bước tiếp theo được kích hoạt bởi phương pháp của chúng tôi.

Chúng ta có thể điều hướng các giá trị mà Claude thể hiện một cách đáng tin cậy không?