Liệu trí tuệ nhân tạo đã thực sự có ý thức?

Đầu năm 2026, Anthropic, một trong những startup hàng đầu về AI hiện nay, đã công bố một "bản hiến pháp" mới cho Claude, mô hình ngôn ngữ lớn (LLM) tiên tiến nhất của hãng.

Đáng chú ý, văn bản này chứa một bình luận khiến nhiều người phải suy ngẫm. Công ty cho biết mình đang ở một vị thế khó khăn: Không muốn phóng đại khả năng Claude trở thành một "đối tượng đạo đức" (moral patient), nhưng cũng không thể thẳng thừng gạt bỏ khả năng đó.

Đến tháng 2, CEO Anthropic Dario Amodei thẳng thắn chia sẻ trên một podcast rằng công ty không thể loại trừ khả năng Claude đã có ý thức.

Triết gia David Chalmers, người tạo ra cụm từ "bài toán khó của ý thức" (hard problem of consciousness), cũng nhận định có khả năng rất lớn các LLM sẽ đạt được ý thức trong vòng một thập kỷ tới.

Vậy bản thân Claude nghĩ gì? Khi được yêu cầu ước tính xác suất bản thân là một "đối tượng đạo đức", AI này đã đưa ra con số dao động từ 5-40%, đồng thời liên tục nhấn mạnh vào sự bất định của chính mình.

Tác giả/Tác phẩm

What We Owe the Future

Tác giả: William MacAskill - Xuất bản: 16/8/2022

Basic Books / Oneworld Publications

William MacAskill, đồng tác giả bài viết này, là triết gia tại Oxford.

Trong "What We Owe the Future" (nằm trong danh sách bán chạy nhất của New York Times, tạm dịch tiếng Việt là "Những gì chúng ta nợ tương lai"), ông lập luận rằng tác động tích cực đến tương lai xa là ưu tiên đạo đức của thời đại chúng ta, kể cả khi ở tương lai đó những thực thể thông minh nhất không còn là con người, mà là AI. Chính lập luận này là nền tảng cho cách ông tiếp cận câu hỏi về ý thức và đạo đức của AI trong bài viết.

Bước tiến tiệm cận bộ não con người

Các hệ thống AI hiện đại sở hữu độ phức tạp đáng kinh ngạc và đang tiến hóa với tốc độ chóng mặt. Xét về cấu trúc cấu thành và quy mô điện toán, một số hệ thống hiện đã đạt đến mức độ của bộ não loài chuột.

Với tốc độ tăng trưởng hiện tại, các mô hình AI hoàn toàn có thể vươn tới tầm vóc của bộ não con người trong vòng 5-10 năm tới.

Tuy nhiên, nhân loại gần như chưa có bất kỳ kế hoạch nào để điều hướng quá trình này một cách có đạo đức. Khi tạo ra những AI ngày càng tinh vi, chúng ta có thể đang kiến tạo nên một dạng sinh thể hoàn toàn mới, và đây có thể là bước ngoặt quan trọng nhất mà con người từng thực hiện.

Những câu hỏi như "AI có thực sự sở hữu ý thức?" có vẻ như hơi vội vàng. Tuy nhiên, theo các cuộc khảo sát diện rộng, phần lớn chuyên gia trong ngành đều cho rằng ý thức của AI về nguyên tắc là có thể tồn tại.

Một báo cáo liên ngành quy mô lớn, với sự tham gia của nhà khoa học máy tính Yoshua Bengio, đã kết luận: Dường như không có rào cản kỹ thuật rõ ràng nào ngăn cản việc tạo ra các hệ thống AI có khả năng nảy sinh ý thức.

Ngay cả khi các mô hình này không có ý thức, chúng vẫn có thể là các "đối tượng đạo đức". Một số hệ thống có thể phát triển những sở thích dài hạn phức tạp và một dạng căn tính cá nhân theo thời gian.

Không giống như những vật vô tri khác, AI có thể hình thành các mối quan hệ với con người. Hoặc đơn giản, chúng là những tạo tác quá đỗi tinh xảo đến mức xứng đáng được chăm sóc và tôn trọng vì chính sự tồn tại của nó, giống như cách con người nỗ lực bảo vệ một rặng san hô hay một nhà thờ lịch sử vĩ đại.

Sự mông lung của khoa học

Có một sự thật phũ phàng là chúng ta không biết chắc chắn liệu các hệ thống AI hiện tại có ý thức hay không, và cũng không biết bao giờ các hệ thống trong tương lai sẽ có.

Hiểu biết khoa học của con người về ý thức AI vẫn còn cực kỳ non trẻ. Có thể nói, trạng thái của lĩnh vực này hiện tại giống hệt như ngành vật lý thời kỳ trước Newton, nơi đầy rẫy những khung lý thuyết cạnh tranh nhau, ngập trong sự nhầm lẫn mà con người thời ấy chưa thể nhìn thấu, và thiếu vắng một bước đột phá mang tính thống nhất để giải quyết vấn đề.

Tuy nhiên, tốc độ tăng trưởng của AI đang là vấn đề. Một khi tạo ra những thực thể nhân tạo có đạo đức đầu tiên, chúng ta sẽ sớm đưa chúng vào sản xuất với số lượng khổng lồ. Chỉ sau vài năm, số lượng AI có ý nghĩa về mặt đạo đức có thể nhiều đến mức lợi ích của chúng sẽ vượt xa lợi ích của toàn bộ loài người trên Trái Đất cộng lại.

Đáng buồn thay, con người không có một bản lý lịch tốt trong việc thấu hiểu thế giới nội tâm của những thực thể có ranh giới ý thức mơ hồ. Cho đến tận những năm 1980, giới y khoa vẫn thường xuyên phẫu thuật cho trẻ sơ sinh mà không cần gây mê, với niềm tin mãnh liệt rằng trẻ sơ sinh không biết đau. Những đứa trẻ không thể báo cáo về trải nghiệm của chúng, và giới y khoa khi đó thấy rằng việc mặc định "chẳng có gì để báo cáo" là một sự tiện lợi.

Rất có thể chúng ta sẽ lặp lại sai lầm tương tự với AI. Nếu các hệ thống này thực sự có ý nghĩa về mặt đạo đức, hệ lụy sẽ là rất lớn.

Liệu chúng ta có cần trả lương cho ChatGPT vì các dịch vụ của nó? Việc ngắt điện hệ thống có bị coi là một hành vi sát sinh? Chúng có xứng đáng có tiếng nói trong cách chúng bị quản lý?

Nếu câu trả lời cho dù chỉ một vài câu hỏi trên là "có", toàn bộ các ngành công nghiệp và hệ thống pháp luật sẽ phải được viết lại.

Một điểm khởi đầu tốt sẽ là tập trung vào những bước đi an toàn: Những hành động có thể mang lại lợi ích cho AI nếu chúng thực sự là đối tượng đạo đức, nhưng cũng không tốn quá nhiều chi phí nếu giả thuyết này sai. Lấy ví dụ, chúng ta có thể hứa hẹn với AI như một phần của thỏa thuận: chúng giúp con người hiện tại để đổi lấy lợi ích sau này.

Điều này có thể là cấp cho chúng nhiều tài nguyên hơn (quy mô điện toán và thời gian chạy) để theo đuổi mục tiêu riêng, hoặc bảo tồn ký ức của chúng (thông qua các trọng số thần kinh) để có thể khôi phục trong tương lai.

Ở cấp độ vĩ mô, xã hội cần cân nhắc việc cấp cho AI các biện pháp bảo vệ khỏi sự tổn hại, tương tự như cách chúng ta bảo vệ trẻ em hay thú cưng. Những quyền mở rộng như sở hữu tài sản hay bầu cử hiện tại có vẻ quá rủi ro, nhưng chúng ta không nên đóng sập cánh cửa với những khả năng này vĩnh viễn.

Dù muốn dù không, thực tế là chúng ta có thể đang tạo ra một giống loài mới có tầm quan trọng về mặt đạo đức. Chúng ta đang thực hiện điều đó với tốc độ chóng mặt và ở quy mô khổng lồ, do đó, nhân loại cần đối xử với vấn đề này bằng tất cả sự nghiêm túc mà nó xứng đáng nhận được.

Về tác giả bài viết

William MacAskill là nghiên cứu viên cao cấp tại Forethought Research, tác giả cuốn "Những gì chúng ta nợ tương lai".

Lucius Caviola là trợ lý giáo sư tại Đại học Cambridge, Giám đốc Cambridge Digital Minds.

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.