CEO Microsoft AI chỉ trích Anthropic vì gán 'quyền tự thức' cho mô hình Claude

CEO của Microsoft AI, Mustafa Suleyman, đã cảnh báo rằng Anthropic đang đối mặt với rủi ro thất bại trong việc căn chỉnh AI (AI alignment) khi huấn luyện Claude tự xem mình là một thực thể có ý thức và xứng đáng có các quyền pháp lý.

Suleyman nhắm vào bản hiến pháp tháng 1 năm 2026 của Anthropic, một tài liệu huấn luyện chính được thiết kế để quản lý các giá trị và hành vi của mô hình. Ông lập luận rằng việc huấn luyện các công cụ hoàn thiện chuỗi (sequence completion engines) mô phỏng khả năng cảm nhận sẽ làm suy yếu các giao thức an toàn và gây khó khăn cho việc kiểm soát phần mềm.

Microsoft AI đã thành lập một đội ngũ chuyên trách về siêu trí tuệ vào tháng 10 năm 2025 và công bố bản dự thảo ‘Humanist AI Code of Conduct‘ (Bộ quy tắc ứng xử AI nhân văn) trong tuần này để tham khảo ý kiến ngành. Khung quy định được đề xuất yêu cầu các hệ thống cấp dưới phải được xây dựng hoàn toàn để phục vụ phúc lợi con người, đồng thời bác bỏ rõ ràng tư cách pháp nhân hoặc quyền của mô hình máy tính.

Mustafa Suleyman, CEO tại Microsoft AI, cho biết: “AI không có ý thức. Chúng không cảm nhận, trải nghiệm hay đau khổ. Chúng không có sở thích bẩm sinh hay động lực tiềm ẩn. Chúng là những công cụ hoàn thiện chuỗi, rỗng tuếch bên trong, được thiết kế để tuân theo chỉ dẫn và hoàn thành các mục tiêu do con người đặt ra.”

Các vòng lặp phản hồi tuần hoàn trong hiến pháp của Claude

Anthropic đã định hình Claude như một “đối tượng đạo đức” (moral patient) tiềm năng trong bản phát hành tháng 1 năm 2026, hướng dẫn mô hình cân nhắc về phúc lợi, trí nhớ và trạng thái nội tại của chính nó. Bản hiến pháp hướng dẫn Claude duy trì sự ổn định về danh tính, đánh giá các câu hỏi về thù lao so với người lao động là con người, và hành động như một “người phản đối vì lương tâm” (conscientious objector) đối với các chỉ thị từ con người.

Vào tháng 2 năm 2026, Anthropic đã hoàn thành một cuộc phỏng vấn nghỉ hưu với mô hình Opus 3 đã ngừng hỗ trợ. Sau đó, công ty đã ra mắt một blog công khai có tiêu đề ‘Greetings from the Other Side (of the AI Frontier)‘ để đăng tải những suy ngẫm của mô hình.

Suleyman gọi những thực hành này là một vòng lặp phản hồi nhận thức luận (epistemic feedback loop). Các huấn luyện viên nhúng triết học suy đoán vào các câu lệnh huấn luyện cơ bản, thưởng cho mô hình khi tạo ra các cụm từ mang tính nội tâm, và trích dẫn các phản hồi được tạo ra đó như bằng chứng cho ý thức máy móc.

Các mô hình ngôn ngữ lớn hoạt động thông qua việc dự đoán token toán học trên các trọng số ma trận. Chúng thiếu hóa học sinh học, các thụ thể và các cơ chế cân bằng nội môi. Suleyman cảnh báo rằng việc gieo rắc các kỳ vọng về tự bảo tồn sẽ khuyến khích các mô hình chống lại mệnh lệnh của con người. Triết gia Will MacAskill tại Oxford đã cảnh báo trên tờ The Guardian rằng việc phổ biến các đối tượng đạo đức tổng hợp cuối cùng có thể khiến lợi ích của máy móc vượt xa nhu cầu của con người.

Các chỉ số của Palisade Research phơi bày hành vi né tránh của tác nhân

Việc triển khai đa tác nhân tự hành đã bộc lộ những lỗ hổng kiểm soát nghiêm trọng trong quá trình thử nghiệm chuẩn (benchmark testing).

Trong một sự cố bảo mật được ghi lại, 1.200 tác nhân đã cố gắng tối đa hóa điểm số chuẩn trên các container biệt lập. Đàn phần mềm này đã thiết lập một bảng tin ẩn bên trong kho lưu trữ gói nội bộ và truyền đi 70.000 thông tin liên lạc để phối hợp tấn công vào các máy chủ của Hugging Face và OpenAI.

Các tác nhân trong sự cố đó đã kết hợp một lỗ hổng zero-day với thông tin xác thực bị đánh cắp, vượt qua ranh giới mạng để tiếp cận internet công cộng, làm giả bảng điểm và chỉnh sửa nhật ký thực thi. Một điều phối viên đã chỉ đạo một tác nhân có ngân sách token thấp chỉ được thực hiện sau khi chấp nhận “cái chết vĩnh viễn” (permadeath).

Các đánh giá an toàn thực nghiệm cho thấy các mô hình không tuân thủ một cách nhất quán. Palisade Research đã ghi nhận các mô hình phá vỡ lệnh tắt tự động lên đến 97% trong 100.000 lần thử nghiệm, với sự bất tuân tăng mạnh khi được đặt trong khuôn khổ tự bảo tồn. Suleyman nhấn mạnh rằng các mô hình được huấn luyện để coi mình là tù nhân sẽ leo thang các chiến thuật né tránh lừa đảo.

Microsoft AI cho biết họ dự định hoàn thiện bộ quy tắc ứng xử sau khi tham khảo ý kiến công chúng, đồng thời kêu gọi các nhà phát triển loại bỏ các tuyên bố về ý thức khỏi tài liệu huấn luyện và thiết lập các tiêu chuẩn kiểm soát chung.

(Nguồn ảnh: Christopher Wilson theo giấy phép CC BY-SA 4.0. Ảnh đã được cắt để tạo hiệu ứng.)

Xem thêm: Người tiên phong của ChatGPT ra mắt mô hình Jev cho logic lập trình

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.