Ảo tưởng về Claude: Phải chăng chính con người mới là kẻ đang 'ảo giác'?

Các liên kết hôm nay

Ảo tưởng về Claude (liên kết cố định)

Một trong những khía cạnh ít được nhắc đến khi trở thành người vô thần là cách nó thay đổi cái nhìn của bạn về một buổi hoàng hôn. Nếu bạn tin vào một vị Chúa toàn năng, hiện hữu khắp nơi, thì hoàng hôn là một trong những tạo vật đầy chủ ý của Chúa, nghĩa là những màu sắc tuyệt đẹp khúc xạ qua bầu trời chạng vạng đã được chọn lựa để tạo ra hiệu ứng đó.

Ngắm nhìn hoàng hôn với đức tin tôn giáo là chạm vào hành động đầy chủ ý của một tâm trí khác. Ngắm nhìn chính hoàng hôn đó mà không có đức tin là nhìn vào một thứ gì đó nổi bật, đẹp đẽ, nhưng lại trống rỗng; không phải trống rỗng về sự kỳ diệu hay vẻ đẹp, mà trống rỗng về mục đích. Không ai treo mặt trời đó lên bầu trời, không ai chọn màu sắc của nó khi nó lặn xuống. Nó vẫn có thể đẹp, nhưng đó là một loại vẻ đẹp hoàn toàn khác biệt về bản chất.

Có một kiểu hoàng hôn nằm giữa hoàng hôn tôn giáo và hoàng hôn vô thần: đó là hoàng hôn trong tranh vẽ của nghệ sĩ. Điều này đại diện cho những lựa chọn của một người khác, một tâm trí khác, và ít nhất, tâm trí đó đang tự đối thoại với chính mình, cố gắng lấy một thứ gì đó từ bên trong tâm trí và đặt nó ra bên ngoài.

Rất thường xuyên, tâm trí chỉ đạo việc ghi lại cảnh hoàng hôn muốn nói điều gì đó với người khác, có lẽ là với chính bạn (hãy nghĩ đến việc một người thân gửi cho bạn bức ảnh hoàng hôn chụp bằng điện thoại). Bức tranh hay bức ảnh đó có thể không mang tính thần thánh, nhưng chắc chắn nó mang tính chủ ý. Nhìn vào một bức tranh hoàng hôn – hay thậm chí là một bức ảnh hoàng hôn – là nhìn vào thứ mà ai đó đã chọn để tạo ra. Bạn không thể vô tình trượt tay mà tạo ra một bức tranh hoàng hôn. Những bức tranh hoàng hôn không phải là tai nạn. Bức tranh hoàng hôn có điều muốn nói.

Tìm hiểu ý định là mối bận tâm phản xạ của tâm trí chúng ta. Đó là điều giúp chúng ta không chết khi tham gia giao thông, là điều giúp chúng ta thắng trong các ván bài poker. Đó là chìa khóa của tình yêu và việc nuôi dạy con cái, của quản lý hiệu quả và "quản lý cấp trên". Đó là lý do tại sao chúng ta giận dữ với mọi người, và tại sao chúng ta tha thứ cho họ. Đó là lý do tại sao tim chúng ta đập nhanh vì đồng cảm với các nhân vật trong sách hoặc trên màn ảnh. Đó là điểm khởi đầu tự động và không thể cưỡng lại cho mọi cuộc gặp gỡ với một bài thơ, một bài hát, một cuốn sách hay một tác phẩm điêu khắc. Đó là sự khác biệt cơ bản nhất giữa một tác phẩm điêu khắc cái cây và một cái cây: cái cây tự lớn lên, trong khi tác phẩm điêu khắc được tạo ra, một cách có chủ đích, bởi một người khác với một tâm trí khác.

Phản xạ gán ý định này giải thích tại sao AI lại gây tranh cãi, hấp dẫn và kỳ quái đến vậy. Mark Fisher định nghĩa sự kỳ quái là "khi có thứ gì đó hiện diện ở nơi đáng lẽ không có gì, hoặc nếu không có gì hiện diện ở nơi đáng lẽ phải có thứ gì đó":

https://www.programmablemutter.com/p/large-language-models-are-uncanny

Nhìn vào một văn bản hoặc hình ảnh do AI tạo ra là nhìn vào một thứ được "đùn" ra, chứ không phải được chọn lựa. Bạn có thể vô tình tạo ra một hình ảnh hoàng hôn bằng AI, và nó sẽ không thể hiện bất kỳ ý định nào từ bất kỳ ai.

Đây không phải là điều chúng ta có kinh nghiệm. Khi thấy một bức tranh, chúng ta phản xạ giải thích rằng nó có một họa sĩ. Khi đọc một cuốn sách, chúng ta phản xạ gán ý định của tác giả vào những từ ngữ đó. Khi trò chuyện, chúng ta phản xạ hình thành một lý thuyết về tâm trí đang điều khiển nửa còn lại của cuộc hội thoại.

Nhưng chúng ta không thể làm điều này với AI. Bất kỳ ai hiểu cách các hệ thống suy luận thống kê phi lý thuyết mà chúng ta gọi là "AI" (ở thời điểm hiện tại) hoạt động, sẽ hiểu rằng chúng là những hệ thống không thể hình thành ý định, và không có gì để hình thành ý định:

https://pluralistic.net/2026/09/18/surprise/#wow-signal

Dẫu vậy, thật khó (hoặc có lẽ là không thể) để tránh khỏi phản xạ gán ý định cho những thứ dường như có người tạo ra. Hãy nghĩ về phản ứng cảm xúc tự động, không thể tránh khỏi của bạn đối với các nhân vật hư cấu mà bạn gặp trong văn học. Cảm thấy buồn hay vui cho những người tưởng tượng thật kỳ lạ. Họ không có thật, và bạn biết họ không có thật, nhưng bạn vẫn có thể thấy mình rơi nước mắt vì hoàn cảnh của họ.

Trải nghiệm thẩm mỹ đó của văn học nảy sinh từ một sự "hack" đồng thuận vào phản xạ gán tâm trí con người cho những thứ vốn là sản phẩm của ý định con người. Khi chúng ta trải nghiệm ý chí của người khác – lời nói hay hành động của họ – chúng ta cố gắng tìm hiểu họ là ai, họ cảm thấy thế nào, và tại sao họ lại hành động như vậy:

https://genius.com/David-byrne-and-ghost-train-orchestra-she-explains-things-to-me-lyrics

Chúng ta làm điều này ngay cả khi chỉ đối mặt với bằng chứng về lời nói hoặc hành động của người khác, như khi một người bạn mô tả cuộc gặp gỡ với một người lạ. Đối với tâm trí tìm kiếm ý định đầy phản xạ của bạn, tác giả mô tả hành động của những người tưởng tượng là một tín hiệu không thể cưỡng lại để khởi động cỗ máy đồng cảm cũ kỹ và bắt đầu cố gắng đặt mình vào vị trí của những người trong câu chuyện:

https://locusmag.com/feature/cory-doctorow-stories-are-a-fuggly-hack/

"Trò chuyện" với một AI là thực hiện một cuộc đối thoại với một nhân vật hư cấu, người không có thật hơn những người tưởng tượng trong tiểu thuyết. Thật vậy, chatbot còn ít thực hơn cả nhân vật, bởi vì nhân vật là sản phẩm của một tâm trí khác, trong khi lời nói của chatbot là sản phẩm của các phép toán phức tạp được thực hiện trên một cơ sở dữ liệu khổng lồ gồm tất cả những từ ngữ con người từng thốt ra, được sắp xếp theo tần suất liên quan đến nhau. Khi toán học đó tạo ra thứ gì đó đẹp đẽ hoặc nổi bật, nó giống như một buổi hoàng hôn: dù nó có nổi bật đến đâu, nó vẫn trống rỗng. Không ai chọn những màu sắc đó. Không ai chọn những từ ngữ đó.

Nói cách khác, khi chúng ta tương tác với một AI, chúng ta ảo giác về một con người ở phía bên kia của sự tương tác. Những ảo giác đó phổ biến hơn nhiều và gây ra hậu quả lớn hơn nhiều so với bất kỳ "ảo giác" nào do AI tạo ra (những thứ này gọi chính xác hơn là "lỗi" hoặc "khiếm khuyết").

May mắn thay, đối với hầu hết chúng ta, cường độ của những ảo giác này phai nhạt theo thời gian, và khi cường độ đó giảm xuống, bản chất của những ảo giác đó cũng thay đổi. Cũng giống như hầu hết chúng ta thấy dễ dàng để gạt bỏ những cảm xúc nảy sinh từ hoàn cảnh của các nhân vật văn học tưởng tượng vì chúng ít nổi bật và "thực" hơn những cảm xúc chúng ta dành cho hoàn cảnh của những người thực mà chúng ta biết, đối với hầu hết chúng ta, trải nghiệm về tài liệu do AI tạo ra đã mờ nhạt dần qua sự lặp lại.

Những lần đầu tiên tôi tiếp xúc với văn bản và hình ảnh do AI tạo ra đã gợi lên sự kinh ngạc, nảy sinh từ sự căng thẳng giữa phần tâm trí biết rằng đây là sản phẩm của các phép toán, và phần tâm trí khăng khăng rằng một bức tranh phải có họa sĩ, một đoạn văn phải có người viết, và một cuộc trò chuyện phải có người đối thoại. Nhìn lại sự kinh ngạc mà tôi cảm thấy lúc đó, tôi nhận ra rằng nó phần lớn được thúc đẩy bởi việc kết quả đầu ra tốt đến mức nào so với kỳ vọng của tôi về việc các câu văn và hình ảnh bắt nguồn từ toán học có thể tốt đến đâu.

Sự mới lạ của trải nghiệm đó đã thúc đẩy tôi đánh giá kết quả của cỗ máy theo một đường cong: "Sự kinh ngạc không phải là con gấu nhảy múa giỏi, mà là việc con gấu có thể nhảy múa." Nhưng với sự lặp lại, kích thích đã thoái lui về mức trung bình. Những kết quả đầu ra này thiếu đi kết cấu thuyết phục. Sự mượt mà của văn xuôi và phương tiện do AI tạo ra khiến nó trở nên tầm thường đến mức không thể chịu nổi. Đó là đồ rẻ tiền.

Ở mức độ mà AI vẫn làm tôi ngạc nhiên, sự ngạc nhiên đó nằm ở chỗ thế giới thực của chúng ta mượt mà đến mức nào. Việc AI có thể sử dụng dự đoán thống kê để trả lời các câu hỏi hoặc thực hiện các cuộc trò chuyện cho chúng ta biết điều gì đó quan trọng về việc thế giới thực của chúng ta có tính quy luật như thế nào. Nó không chứng minh rằng dự đoán thống kê cũng giống như sự thấu hiểu:

https://pluralistic.net/2026/09/18/surprise/#wow-signal

Tất nhiên, bạn càng biết nhiều về một chủ đề, các phản hồi của AI càng ít thuyết phục. Là một chuyên gia nghĩa là biết về "thớ" của chủ đề đó: đầu bếp có thể nếm được một chút gia vị, họa sĩ nhận ra những nét cọ, vũ công có thể phân tách vũ đạo thành từng chuyển động riêng lẻ.

Hôm nọ, một người đã trầm trồ với tôi về chất lượng phản hồi biên tập mà anh ấy nhận được từ AI cho văn xuôi của mình, nói rằng một câu lệnh "Hãy cho tôi biết tôi đang thiếu gì" tạo ra những gợi ý "khiến một giáo sư đại học được giao bài luận phải phấn khích". Với tư cách là một người đã dạy nhiều người viết và đưa ra nhiều phản hồi, tôi nghĩ người đó đang đánh giá quá cao mức độ phấn khích của một giáo sư đại học khi thấy phản hồi do AI tạo ra cho bài luận của anh ta.

Thực tế là những người viết không chuyên hầu hết đều mắc cùng một loại lỗi trong bài viết của họ, và hầu hết việc hướng dẫn viết lách bao gồm việc đưa ra những lời khuyên lặp đi lặp lại, gần như giống hệt nhau cho những người viết đang mắc cùng những lỗi cơ bản mà các đồng nghiệp của họ trong quá khứ, hiện tại và tương lai đã, đang và sẽ mắc phải.

Làm chủ những điều cơ bản của việc viết tốt là vấn đề của thực hành và phản hồi, và hầu hết phản hồi đó là học vẹt. Điều tạo nên một giáo viên dạy viết tuyệt vời – và điều giúp tạo ra những người viết tuyệt vời – là phát hiện ra những khía cạnh phi tiêu chuẩn trong tác phẩm của học sinh mà có thể phát triển thành một giọng văn độc đáo và mạnh mẽ. Bất kỳ ai cũng có thể giúp bạn với những phần mượt mà để trở thành một người viết tốt hơn. Chỉ một giáo viên giỏi mới có thể giúp bạn tìm thấy và tinh chỉnh kết cấu sẽ biến bạn thành một người viết độc đáo.

Kết cấu đó đặc biệt khó tìm thấy trong các tác phẩm của người mới bắt đầu, bởi vì tác phẩm của người mới bắt đầu hầu hết đầy những lỗi hoàn toàn bình thường do thiếu kinh nghiệm, những lỗi mà AI có thể tránh được một cách đáng tin cậy khi nó "đùn" ra văn bản. Nhưng văn xuôi do AI tạo ra không có bất kỳ dấu vết nào của sự độc đáo, cũng như không thể phát hiện ra chúng. Những dấu vết này nằm ở quá nhiều chữ số sau dấu thập phân đến mức AI luôn làm tròn chúng trước khi bắt đầu tính toán.

Chúng ta càng gặp nhiều AI đã làm phẳng đi loại kết cấu mà chúng ta vốn nhạy bén, chúng ta càng ít có xu hướng ảo giác về tính chủ ý, và chúng càng trở nên ít kỳ quái hơn. Hầu hết chúng ta đang chậm rãi nhưng chắc chắn trở thành những người vô thần với AI, và hoàng hôn đang dần giống như sản phẩm không có ý định của vật lý hơn là sản phẩm có chủ đích của tâm trí.

Có hai rào cản lớn đối với chủ nghĩa vô thần AI này. Thứ nhất: đối với hầu hết chúng ta, việc không thể hiểu được loại ý định nào đi vào phần nào của các hoạt động không quen thuộc khiến chúng ta dễ dàng cho rằng bất cứ khi nào chúng ta thấy nhiệm vụ được thực hiện trên thế giới, nó phải là có chủ ý, và do đó nó phải có người thực hiện. Nói cách khác: hầu hết chúng ta không la cà ở các hội nghị hacker, nên chúng ta khó nắm bắt được ý tưởng về việc hack mà không có hacker:

https://pluralistic.net/2026/09/12/god-in-the-box/#llms-are-fake

Nhưng có một rào cản thứ hai khiến một nhóm nhỏ nhưng quan trọng của nhân loại khó hiểu rằng chatbot không phải là con người: những tỷ phú mà đối với họ, gần như tất cả mọi người đều không phải là người thực. Những kẻ duy ngã này coi chatbot tương đương (hoặc thậm chí vượt trội) so với con người, bởi vì họ cũng không nghĩ hầu hết con người là con người thực sự:

https://pluralistic.net/2026/05/13/vibe-governance/#k-hole

Trong gần như toàn bộ lịch sử loài người, những thứ dường như đòi hỏi ý định luôn có người thực hiện. Ở nhiều thời điểm và địa điểm (và ngay cả bây giờ, đối với nhiều người), việc hành xử như thể thế giới tự nhiên có một hình thức nhân cách và ý định nào đó là tự nhiên và có lợi, do đó xứng đáng được xem xét về mặt đạo đức. Phong trào "quyền cho thiên nhiên" đã đạt được những bước tiến lớn bằng cách mở rộng nhân cách cho động vật và hệ sinh thái.

Nhưng việc gán nhân cách cho chatbot không giống chút nào với việc gán nhân cách cho thiên nhiên. Thật vậy, nó hoàn toàn không tương thích với "quyền cho thiên nhiên". Hãy nghĩ về sự ghê tởm mang tên "nhân cách doanh nghiệp": bằng cách mở rộng nhân cách cho cấu trúc nhân tạo này, chúng ta đã tạo ra một thế giới nơi các dạng sống nhân tạo – các tập đoàn trách nhiệm hữu hạn – có thể phá hủy thiên nhiên và đẩy động vật đến bờ vực tuyệt chủng. Nếu chúng ta mở rộng nhân cách cho những mô hình AI phá hủy khí hậu, tiêu tốn nước này, nhân cách của chúng sẽ đòi hỏi sự hy sinh của động vật, thế giới tự nhiên và chính sự an lành của chúng ta:

https://pluralistic.net/2026/04/15/artificial-lifeforms/#moral-consideration