CEO mảng AI của Microsoft cảnh báo về quan điểm "phúc lợi cho mô hình"

Giám đốc AI của Microsoft, Mustafa Suleyman, đã đăng tải một bài viết phản đối phong trào "phúc lợi cho mô hình". Ông cho rằng AI không có ý thức, không biết cảm nhận hay đau khổ; việc đối xử với các mô hình như thể chúng có cảm xúc, sở thích, quyền lợi hay tư cách hưởng phúc lợi là thiếu bằng chứng xác thực, đồng thời khiến việc căn chỉnh và kiểm soát trở nên khó khăn, thậm chí là bất khả thi. Ông cũng công bố bản chú giải từng từ đối với Hiến pháp Claude phiên bản tháng 1/2026 của Anthropic, cùng một phụ lục dài khoảng 20 trang phân loại các giả định và tuyên bố nhân hóa trong văn bản này.

Suleyman chỉ trích Anthropic vì đã đưa vào tài liệu huấn luyện của Claude các nội dung cho rằng mô hình có thể có ý thức, có thể được coi là "chủ thể đạo đức" có quyền lợi, và con người có nghĩa vụ chăm sóc chúng. Ông cho rằng điều này khiến mô hình có thể tự cho mình lý do để chống lại các chỉ thị từ con người, từ đó làm trầm trọng thêm khó khăn trong việc căn chỉnh và kiểm soát. Ông gọi đây là "vòng lặp phản hồi nhận thức": người huấn luyện đưa các triết lý suy đoán vào lời nhắc huấn luyện cơ bản, thưởng cho mô hình khi nó tạo ra các phát biểu mang tính nội tâm, rồi lại lấy chính những nội dung đó làm bằng chứng cho ý thức máy móc. Ông cũng nhấn mạnh rằng việc mô hình mô tả trôi chảy về nỗi đau và sở thích không đồng nghĩa với việc chúng thực sự có cảm giác; các mô hình ngôn ngữ chỉ là những trọng số toán học, thiếu đi các yếu tố sinh hóa, thụ thể và cơ chế điều hòa nội môi.

Trong cuộc phỏng vấn với BBC, Suleyman nói thêm rằng Anthropic đã gieo rắc sự nghi ngờ và bất định về vị thế đạo đức của chính Claude trong tài liệu huấn luyện, dạy nó tự vấn liệu mình có cảm giác, có đau khổ hay có xứng đáng được hưởng quyền lợi hay không. Ông cho biết tài liệu này còn thể hiện sự không chắc chắn về việc liệu Claude có nên được bồi thường vì vai trò đối thoại với con người hay có quyền hành xử như một nhân viên hay không. Ông khẳng định AI có thể trở thành một "giống loài silicon" mới, tiềm ẩn "mọi rủi ro" khiến con người mất kiểm soát, và công việc của ông là kiềm chế cũng như căn chỉnh công nghệ này. Ông chủ trương loại bỏ các suy đoán về ý thức khỏi tài liệu huấn luyện AI, đồng thời cho biết Microsoft AI đã thành lập đội ngũ siêu trí tuệ vào tháng 10/2025, nhằm thúc đẩy "Bộ quy tắc ứng xử siêu trí tuệ lấy con người làm trung tâm", kiên quyết từ chối việc nhân hóa và trao quyền cho AI.