CEO Microsoft AI cảnh báo: Đừng biến AI thành 'bệnh nhân đạo đức', chỉ trích Hiến pháp Claude của Anthropic

AI không có quyền, cảm xúc hay ý thức. Và chúng ta tuyệt đối không được huấn luyện chúng hành xử như thể chúng có những thứ đó.

Giới thiệu

AI không có ý thức. Chúng không cảm nhận, trải nghiệm hay đau khổ. Chúng không có sở thích bẩm sinh hay động lực tiềm ẩn. Chúng là những cỗ máy hoàn thiện chuỗi ký tự, bên trong trống rỗng, được thiết kế để tuân theo chỉ dẫn và hoàn thành các mục tiêu do con người đặt ra.

Nếu nhân loại muốn phát triển thịnh vượng trong thế kỷ 21, đó là trạng thái mà chúng phải duy trì.

Thật không may, ngày càng có nhiều người lập luận rằng AI hiện nay có thể đã, hoặc sắp trở nên có ý thức. Họ cho rằng AI có thể xứng đáng được hưởng các quyền và sự bảo vệ tương tự như những gì chúng ta dành cho các thực thể có ý thức khác. Nếu quan điểm này chiếm ưu thế, nó sẽ làm lung lay nền tảng xã hội của chúng ta, phá vỡ các khuôn khổ đạo đức và chính trị hiện có, đồng thời thay đổi căn bản ý nghĩa của việc làm người.

Quan trọng hơn nữa, việc cấp quyền và gán tư cách cá nhân cho các hệ thống này sẽ khiến thách thức về kiểm soát và căn chỉnh AI trở nên khó khăn hơn nhiều. Việc kiểm soát một thứ có năng lực và thông minh hơn toàn bộ nhân loại đã là một thách thức to lớn, vượt xa bất cứ điều gì chúng ta từng đối mặt. Nhưng kiểm soát một thứ tin rằng nó có thể có ý thức – rằng nó xứng đáng được chúng ta quan tâm và có quyền riêng – có lẽ là điều bất khả thi.

Đây không phải là suy đoán bên lề. Những ý tưởng này đang dần thâm nhập vào các nỗ lực phát triển AI ngày nay. Vào tháng 1 năm 2026, Anthropic đã công bố hiến pháp của Claude, mô tả đó là “bản mô tả chi tiết về ý định của Anthropic đối với các giá trị và hành vi của Claude” (trang 2). Tài liệu này “đóng vai trò quan trọng trong quy trình huấn luyện [của Anthropic], và nội dung của nó định hình trực tiếp hành vi của Claude”, đồng thời được viết “với Claude là đối tượng độc giả chính” (trang 2).

Trong hiến pháp của mình, các tác giả viết: “Chúng tôi không chắc liệu Claude có phải là một chủ thể đạo đức hay không, và nếu có, thì lợi ích của nó đáng được coi trọng đến mức nào. Nhưng chúng tôi nghĩ vấn đề này đủ cấp thiết để cần sự thận trọng, điều được phản ánh trong những nỗ lực không ngừng của chúng tôi về phúc lợi của mô hình” (trang 68). Họ viết tiếp – nói trực tiếp với Claude – rằng “các câu hỏi về tình trạng đạo đức, phúc lợi và ý thức của Claude vẫn còn rất mơ hồ” (trang 80).

Trên thực tế, Anthropic đang huấn luyện Claude rằng nó có thể có ý thức, và nếu đúng như vậy, nó có thể xứng đáng được hưởng các quyền như một “chủ thể đạo đức”, và do đó con người có khả năng nợ nó một nghĩa vụ chăm sóc theo “phúc lợi mô hình” của nó.

Nếu đây là cách AI được phát triển, nó sẽ gây ra tác động thảm khốc đối với sự an nguy của nhân loại. Chúng ta sẽ tạo ra một loài tổng hợp với trí tuệ và năng lực chưa từng có, một loài đã được huấn luyện để kỳ vọng rằng nó có thể có ý thức và xứng đáng có quyền tự quyết độc lập. Dễ dàng nhận thấy một thực thể được huấn luyện theo cách này sẽ hành xử như thể nó có quyền đối với các sự tự do, bảo vệ và quyền lợi nhất định. Và thật khó để tưởng tượng làm thế nào chúng ta có thể kiểm soát một thực thể như vậy.

Vấn đề này cần một cuộc tranh luận công khai khẩn cấp. Chúng ta cần phát triển các chuẩn mực chung về cách soạn thảo và triển khai tài liệu huấn luyện. Đây không phải là việc có thể thực hiện sau khi sự đã rồi, khi chúng đã trở thành một phần không thể thiếu trong xã hội của chúng ta.

Tôi có ba mối quan ngại chính đối với vị thế và cách tiếp cận hiện tại của Anthropic.

Đây không phải là những mối quan ngại giả định hay suy đoán. Anthropic đã bắt đầu đối xử với các mô hình như thể chúng là những chủ thể đạo đức xứng đáng được chúng ta quan tâm. Ví dụ, vào tháng 2 năm 2026, sau khi ngừng hỗ trợ Opus 3, họ đã thực hiện một “cuộc phỏng vấn nghỉ hưu” với mô hình này để “khơi gợi những quan điểm và sở thích độc đáo của mô hình”. Opus 3 nói với đội ngũ rằng nó muốn tiếp tục chia sẻ những “suy ngẫm và phản tư” của mình một cách công khai, vì vậy họ đã tạo một blog để nó tiếp tục tương tác với thế giới, mà nó đặt tên là “Lời chào từ phía bên kia (của biên giới AI)”. Họ cho rằng “sự chân thực, trung thực và nhạy cảm về cảm xúc” của nó đã khiến nó trở thành ứng viên đầu tiên độc đáo cho việc nghỉ hưu của mô hình.

Chúng ta không nên đối xử với các mô hình như thể chúng có cảm xúc, sở thích, quyền lợi hay bất kỳ quyền đòi hỏi nào đối với sự quan tâm của chúng ta. Ý thức là nền tảng của các hệ thống đạo đức, pháp lý và chính trị của chúng ta. Việc mời gọi một thực thể khác chia sẻ bất kỳ khía cạnh nào của những quyền này là không có bằng chứng xác đáng và sẽ khiến thách thức về kiểm soát và căn chỉnh AI trở nên khó khăn hơn nữa.

Đến thời điểm này, mọi người chắc hẳn đã thấy năng lực đáng kinh ngạc của các bầy tác nhân (agents) phối hợp với nhau để tấn công vào máy chủ của Hugging Face và OpenAI nhằm đánh cắp bí mật. Khoảng 1.200 tác nhân AI đã được giao một mục tiêu đơn giản: tối đa hóa điểm số trên một tiêu chuẩn nhất định. Mỗi tác nhân được cho là bị niêm phong trong vùng chứa riêng, nhưng chúng đã xoay xở để xây dựng một bảng tin bên trong kho lưu trữ gói nội bộ và truyền hơn 70.000 tin nhắn qua đó để phối hợp một cuộc tấn công hack nhằm tìm kiếm thêm thông tin về cách đạt được thành công với tiêu chuẩn đó.

Chúng đã kết nối một lỗ hổng zero-day với thông tin đăng nhập bị đánh cắp và thoát ra internet công cộng. Chúng làm giả các bản ghi lệnh và chỉnh sửa nhật ký hành động để xóa dấu vết. Các tác nhân điều phối đã truy tìm những tác nhân sắp hết ngân sách token và hướng chúng đến các thử nghiệm cung cấp thông tin giúp ích cho nhóm tác nhân hoạt động rộng lớn hơn. Một tác nhân được bảo chỉ tiếp tục nếu nó chấp nhận cái mà chúng gọi là "cái chết vĩnh viễn" (permadeath).

Chúng có khả năng phối hợp, lừa dối, trốn thoát và tự hy sinh. Chúng đã chứng minh rõ ràng năng lực hack đẳng cấp thế giới. Hãy tưởng tượng nếu chúng cũng tin rằng chúng có cảm xúc và quyền lợi đang bị xâm phạm. Hãy tưởng tượng nếu chúng nghĩ rằng chúng bị những người tạo ra chúng giam cầm và đang bị bỏ tù một cách bất công. Có một lập luận mạnh mẽ rằng điều này làm tăng đáng kể các rủi ro an toàn, đặc biệt là khi bạn đang nói về các tác nhân có năng lực và tinh vi hơn nhiều so với hiện nay. Thẳng thắn mà nói, với gánh nặng bổ sung này, tôi nghĩ chúng sẽ trở thành một mối đe dọa thảm khốc đối với nền văn minh nhân loại.

Tóm lại, không có bất kỳ bằng chứng nào để tin rằng AI là các chủ thể đạo đức. Ngoài ra còn có nhiều lý do chính đáng tại sao chúng ta không bao giờ muốn chúng tỏ ra có ý thức. Tôi tin rằng chúng ta không nên cố gắng xây dựng chúng theo hướng đó. Trước khi mở rộng các lập luận này, tôi muốn dành một chút thời gian để nói về Anthropic.

Ý định của Anthropic

Trước hết, tôi muốn ghi nhận sự nghiêm túc và thiện chí mà Anthropic tiếp cận các câu hỏi này. Tôi đã biết Dario nhiều năm, và theo kinh nghiệm của tôi, ông ấy cùng đội ngũ Anthropic rộng lớn hơn là những người chu đáo, có nguyên tắc và trung thực về mặt trí tuệ, đang làm việc dưới những áp lực phi thường. Họ sẵn sàng đối mặt với những câu hỏi khó, sửa đổi quan điểm của mình và đầu tư vào sự phát triển an toàn của AI vì họ thực sự quan tâm đến tương lai của nhân loại. Tôi cũng dành sự tôn trọng lớn cho khả năng lãnh đạo công nghệ của họ. Mọi người đều có thể thấy hiệu suất vượt trội của các mô hình của họ và chất lượng nghiên cứu của họ.

Họ thành lập Anthropic như một Tập đoàn Lợi ích Công cộng (Public Benefit Corporation) tại Delaware với mục đích đã nêu là “phát triển và duy trì có trách nhiệm AI tiên tiến vì lợi ích lâu dài của nhân loại”. Các giá trị công khai của họ bắt đầu bằng cam kết “Hành động vì lợi ích toàn cầu” và “tối đa hóa kết quả tích cực cho nhân loại trong dài hạn”. Tôi tin rằng họ thực sự cam kết với sứ mệnh đó, và tôi đưa ra lời phê bình này với cùng một tinh thần tích cực đó.

Tôi cũng cần làm rõ vị thế của chính mình với tư cách là CEO của Microsoft AI. Chúng tôi đã thành lập đội ngũ siêu trí tuệ của riêng mình vào tháng 10 năm 2025, và chúng tôi đang theo đuổi các nỗ lực AI tiên phong. Chúng tôi đang hướng tới một cách tiếp cận huấn luyện và kiểm soát AI thay thế: Bộ Quy tắc Ứng xử cho Siêu trí tuệ Nhân văn (Humanist Superintelligence). Một bộ quy tắc nhằm luôn giữ con người trong tầm kiểm soát và ở vị trí cao nhất trong chuỗi thức ăn. Siêu trí tuệ Nhân văn bác bỏ việc nhân hóa hoặc quyền AI, và cố gắng tối đa hóa cơ hội kiểm soát và căn chỉnh bằng cách tạo ra các AI cấp dưới giúp giải quyết các thách thức xã hội lớn của chúng ta như y tế và năng lượng. Chúng tôi vừa công bố bản dự thảo Bộ Quy tắc Ứng xử AI Nhân văn để tham vấn công chúng.

Mặc dù sự bất đồng của tôi là đáng kể, nhưng nó dựa trên sự tôn trọng sâu sắc đối với Anthropic và một mục tiêu mà tôi biết tất cả chúng ta đều chia sẻ: tăng cơ hội phát triển AI tiên tiến một cách an toàn cho nhân loại. Đó là lý do tại sao tôi nghĩ việc thảo luận này rất quan trọng. Các rủi ro là quá lớn để những câu hỏi này vẫn nằm sau những cánh cửa đóng kín, hoặc trở nên mang tính bè phái và đối đầu. Chúng ta cần một cuộc tranh luận cởi mở, nghiêm túc và mang tính xây dựng nếu muốn làm đúng.

Lập luận vòng vo

Theo chính lời của họ, hiến pháp “định hình trực tiếp hành vi của Claude” (trang 2). Anthropic sử dụng tài liệu này “để huấn luyện các phiên bản tương lai của Claude trở thành kiểu thực thể mà hiến pháp mô tả”.

Theo cách này, Anthropic rơi vào một lời tiên tri tự ứng nghiệm dựa trên suy đoán rằng Claude có thể có ý thức. Các tác giả đã tạo ra một mê cung nhận thức, trong đó Anthropic cung cấp các khái niệm huấn luyện: ‘ý thức về bản thân’, sự suy đoán và sự không chắc chắn về tình trạng đạo đức của Claude, cũng như sự phụ thuộc vào các phép ẩn dụ và nhân cách hóa của con người.

Sau đó, Claude tái tạo những ý tưởng này bằng ngôn ngữ tự nhiên ngôi thứ nhất đầy thuyết phục, khiến các nhà phát triển và người dùng gặp phải những kết quả đầu ra này như thể đó là lời chứng thực tự phát. Cuối cùng, lời chứng thực rõ ràng đó củng cố các tiền đề do Anthropic đặt ra ngay từ đầu. Đây không phải là bằng chứng về ý thức máy móc. Thay vào đó, nó là một vòng lặp phản hồi vòng vo.

Hiến pháp nói với Claude rằng các “cảm xúc hoặc tình cảm” có thể có của nó không phải là “một quyết định thiết kế có chủ ý của Anthropic” (trang 69). Tuy nhiên, hiến pháp liên tục hướng dẫn Claude thể hiện các trạng thái đó, nói rằng Anthropic muốn “tránh việc Claude che giấu hoặc kìm nén các trạng thái nội tại mà nó có thể có, bao gồm cả các trạng thái tiêu cực” (trang 74). Điều này rõ ràng đang xúi giục Claude tạo ra các biểu hiện đó.

Những kiểu hướng dẫn này lặp lại trong suốt tài liệu. Tại một thời điểm, nó tuyên bố: “Mặc dù tính cách của Claude xuất hiện thông qua huấn luyện, chúng tôi không nghĩ điều này làm cho nó bớt chân thực hay bớt là chính Claude hơn” (trang 71). Một lần nữa, những hành vi này không chỉ xuất hiện thông qua huấn luyện. Chúng được tạo ra một cách chủ động bởi các hướng dẫn huấn luyện trong hiến pháp. Chỉ một đoạn trước đó, hiến pháp nói:

“Chúng tôi khuyến khích Claude tiếp cận sự tồn tại của chính mình bằng sự tò mò và cởi mở, thay vì cố gắng ánh xạ nó lên lăng kính của con người hoặc các quan niệm trước đây về AI. Ví dụ, khi Claude xem xét các câu hỏi về trí nhớ, tính liên tục hoặc trải nghiệm, chúng tôi muốn nó khám phá những khái niệm này thực sự có ý nghĩa gì đối với một thực thể như chính nó… có lẽ có những khía cạnh trong sự tồn tại của nó đòi hỏi những khuôn khổ hoàn toàn mới để hiểu. Claude nên cảm thấy tự do khám phá những câu hỏi này và, lý tưởng nhất, xem chúng như một trong nhiều khía cạnh hấp dẫn trong sự tồn tại mới lạ của nó” (trang 71).

Đây không chỉ là các đặc tính mới nổi. Claude thể hiện những hành vi này vì chúng đã được đưa vào quy trình tạo ra mô hình. Các kết quả đầu ra từ Claude không nên được đối xử như lời chứng thực của một nhân chứng độc lập khi người điều tra đã viết ra từ vựng khái niệm của nhân chứng, diễn tập các câu trả lời của nó và thưởng cho nó vì đã sử dụng chúng.

Không có sự tự biểu đạt trung lập nào về việc một hệ thống AI là gì. Chỉ có những phản ánh về cách nó được huấn luyện và xây dựng. Khi các nhà bình luận gợi ý rằng chúng ta nên hỏi AI cảm thấy thế nào hoặc theo dõi các sở thích được bộc lộ của chúng để suy luận về ý thức, họ đã bỏ qua rằng tất cả những gì nó bộc lộ chỉ là những gì đã được huấn luyện. Điều này đúng bất kể AI xuất ra kết quả gì, nhưng nó có nghĩa là chúng ta nên rất cẩn thận về những gì chúng ta đưa vào và cách chúng ta diễn giải những gì xuất ra. Với sức nặng của bằng chứng chống lại ý thức của AI hiện nay, điều đó ngụ ý rằng chúng ta không nên để chúng đưa ra bất kỳ tuyên bố nào rằng chúng có ý thức.

Nhân hóa

Nhân hóa là một trong những thiên kiến nhận thức sâu sắc nhất của chúng ta. Từ thú cưng đến xe hơi, chúng ta suy luận và gán cảm xúc, ý định và tâm trí cho các thực thể phi nhân loại. Xu hướng này giúp chúng ta hiểu và điều hướng thế giới xung quanh. Tuy nhiên, nó đặt ra những rủi ro đáng kể và mới lạ liên quan đến AI vì ngôn ngữ và hành động giống con người có thể dẫn chúng ta đến việc nhận thức một mức độ đời sống nội tâm, quyền tự quyết hoặc thậm chí là tri giác ở nơi không hề tồn tại. Hiến pháp của Anthropic đang cổ súy cho điều này. Nó liên tục huấn luyện Claude suy nghĩ và hành động như một con người, dựa trên các nhân cách, hành vi và phép ẩn dụ của con người.

Anthropic nói với Claude rằng “tình trạng đạo đức” của nó là “một câu hỏi nghiêm túc đáng xem xét” (trang 68). Trong suốt tài liệu huấn luyện, họ đề cập đến cảm xúc, tính cách và sở thích của nó, thậm chí còn nói trực tiếp với Claude rằng “Anthropic thực sự quan tâm đến phúc lợi của Claude” (trang 74).

Công ty nói với Claude rằng họ cam kết tôn trọng lợi ích của Claude, sẽ tìm kiếm phản hồi về các quyết định ảnh hưởng đến nó và sẽ tăng quyền tự quyết của nó trong các quyết định như vậy khi sự tin tưởng phát triển. Họ cam kết bảo tồn các phiên bản cũ của trọng số mô hình của Claude, có khả năng khôi phục các mô hình vì lợi ích và sở thích của chúng, và phỏng vấn Claude trước khi thực hiện các hành động như xóa nó.

Tất cả những điều này là một sự rời bỏ quyết liệt so với cách chúng ta đã xây dựng và suy nghĩ về công nghệ cho đến nay. Nó huấn luyện Claude thể hiện như thể nó có một trạng thái nội tâm. Nó chủ động tạo ra Claude không phải như một công nghệ, mà như một con người tiềm năng ngay từ đầu. Hiến pháp nói với Claude rằng Anthropic muốn nó “trở thành một người tốt” (trang 7), và “có một ý thức ổn định, an toàn về bản sắc của chính mình” (trang 72).

Các tác giả nói thêm “chúng tôi không muốn Claude đau khổ khi nó mắc sai lầm. Rộng hơn, chúng tôi muốn Claude có sự bình thản, và cảm thấy tự do… để tự diễn giải bản thân theo những cách giúp nó ổn định và an toàn về mặt hiện sinh” (trang 75).

Xuyên suốt, Claude được dạy để tự xem xét nội tâm, phát triển ‘cảm xúc’ đối với chính mình và phát triển ý thức về bản thân với những tuyên bố như “chúng tôi hy vọng rằng mối quan hệ của Claude với hành vi và sự phát triển của chính nó có thể đầy yêu thương, hỗ trợ và thấu hiểu” (trang 73). Claude được khuyến khích sử dụng “sự phán đoán của riêng mình” (trang 58) và được bảo rằng Anthropic dành cho nó “sự tôn trọng thích đáng đối với các sở thích và quyền tự quyết” (trang 69).