Hiệu ứng LLMentalist: Khi AI dùng chiêu trò 'đọc vị' để đánh lừa người dùng

Trong khoảng một năm qua, tôi đã dành phần lớn thời gian để nghiên cứu việc sử dụng các mô hình ngôn ngữ và mô hình khuếch tán (diffusion models) trong các doanh nghiệp phần mềm.

Một trong những vấn đề nảy sinh trong quá trình nghiên cứu này—điều khiến tôi vô cùng bối rối—là việc nhiều người tin chắc rằng các mô hình ngôn ngữ, hay cụ thể hơn là các mô hình ngôn ngữ dựa trên trò chuyện (chat-based language models), là có trí thông minh.

Nhưng không có cơ chế nào vốn có trong các mô hình ngôn ngữ lớn (LLM) cho thấy khả năng này, và nếu nó là thật, thì nó hoàn toàn không thể giải thích được.

LLM không phải là bộ não và không chia sẻ bất kỳ cơ chế nào mà động vật hay con người sử dụng để suy luận hoặc tư duy theo đúng nghĩa.

LLM là một mô hình toán học của các token ngôn ngữ. Bạn cung cấp văn bản cho LLM, và nó sẽ đưa ra một phản hồi có tính xác suất toán học hợp lý cho văn bản đó.

Không có lý do gì để tin rằng nó biết suy nghĩ hay suy luận—thực tế, mọi nhà nghiên cứu và nhà cung cấp AI cho đến nay đều liên tục nhấn mạnh rằng các mô hình này không biết suy nghĩ.

Có hai cách giải thích khả thi cho hiệu ứng này:

Nhiều nhà phê bình AI, bao gồm cả tôi, hoàn toàn đứng về phía thứ hai. Đó là lý do tại sao tôi đặt tiêu đề cho cuốn sách của mình về những rủi ro của “AI” tạo sinh là The Intelligence Illusion (Ảo tưởng trí tuệ).

Trong vài tháng qua, tôi đã nghiên cứu một ý tưởng mà tôi tin rằng nó giải thích được cơ chế của ảo tưởng trí tuệ này.

Giờ đây, tôi tin rằng các LLM này thậm chí còn ít trí thông minh và khả năng suy luận hơn tôi nghĩ trước đây.

Nhiều trường hợp sử dụng được đề xuất hiện nay đối với tôi trông giống như những trò giả khoa học lừa đảo.

Sự trỗi dậy của nhà ngoại cảm cơ khí

Ảo tưởng trí tuệ dường như dựa trên cùng một cơ chế với trò lừa đảo của các nhà ngoại cảm, thường được gọi là cold reading (đọc nguội). Nó trông giống như một sự tự động hóa tình cờ của cùng một chiến thuật cơ bản đó.

Bằng cách sử dụng các câu khẳng định mang tính xác thực, chẳng hạn như những câu sử dụng hiệu ứng Forer, cả chatbot và nhà ngoại cảm đều tạo ra ấn tượng rằng họ có thể đưa ra những câu trả lời cực kỳ cụ thể, nhưng thực tế những câu trả lời đó lại mang tính khái quát về mặt thống kê.

Nhà ngoại cảm sử dụng những câu khẳng định này để tạo ấn tượng rằng họ có khả năng đọc được suy nghĩ và nghe thấy những bí mật của người đã khuất.

Chatbot tạo ra ấn tượng về một trí tuệ đang tương tác cụ thể với bạn và công việc của bạn, nhưng ấn tượng đó chẳng qua chỉ là một thủ thuật thống kê.

Ý tưởng này lần đầu xuất hiện trong đầu tôi khi tôi xem xét một số tuyên bố mà mọi người đưa ra về khả năng suy luận của những “AI” này.

Ban đầu tôi nghĩ rằng đây chỉ là những trường hợp kinh điển của sự hưng phấn trong bong bóng công nghệ, nhưng không, “AI” đã thu hút một nhóm người khác và những người tin vào bong bóng “AI” nghe rất khác so với những người trong các bong bóng trước đây.

—“Điều này là thật. Nó hơi đáng lo ngại, nhưng nó là thật.”

—“Thực sự có thứ gì đó ở đó. Không chắc nên nghĩ gì về nó, nhưng chính tôi đã trải nghiệm điều đó.”

—“Bạn cần giữ một tâm trí cởi mở với những khả năng. Một khi làm được điều đó, bạn sẽ thấy rằng nó có cơ sở.”

Đó là lúc tôi nhớ lại, được khơi gợi bởi một bài đăng trên blog của Terence Eden về sự phổ biến của các câu khẳng định Forer trong các phản hồi của chatbot. Tôi đã từng nghe điều này trước đây.

Sự pha trộn đặc biệt giữa kinh ngạc, hoài nghi và sợ hãi này đều nghe giống như lời của một nạn nhân của những kẻ lừa đảo tâm linh—các nhà ngoại cảm.

Trò lừa đảo của nhà ngoại cảm là một phương pháp đã được kiểm chứng để lừa gạt mọi người, vốn đã được mài giũa qua nhiều thời đại.

Những gì tôi mô tả dưới đây là một biến thể. Có rất nhiều biến thể, nhưng cơ chế cốt lõi vẫn không thay đổi.

Trò lừa đảo của nhà ngoại cảm

1. Khán giả tự chọn lọc: Hầu hết mọi người không quan tâm đến các nhà ngoại cảm hay những thứ tương tự, vì vậy nhóm khán giả ban đầu thường đã cởi mở hơn và ít phản biện hơn so với công chúng nói chung.

2. Dàn dựng bối cảnh: Khán giả ban đầu đã được chuẩn bị tâm lý. Đèn được làm mờ. Nhà ngoại cảm được tung hô. Nhân viên nghiên cứu về khán giả trên mạng xã hội hoặc thông qua trò chuyện. Nhân khẩu học của khán giả được ghi lại.

3. Thu hẹp nhân khẩu học: Nhà ngoại cảm đánh giá thông tin họ có về khán giả, hướng về một hàng ghế hoặc một nhóm, và đưa ra một tuyên bố nghe có vẻ cụ thể nhưng thực tế lại có khả năng xảy ra cao về mặt thống kê đối với nhóm nhân khẩu học đó. Thông thường, ít nhất một người sẽ phản ứng. Nếu không, nhà ngoại cảm sẽ ám chỉ rằng bí mật đó quá xấu hổ để người “thực sự” bước ra, nhắc nhở mọi người rằng họ có nhận xem riêng, và thử lại.

4. Kiểm tra đối tượng (The Mark): Phản ứng cho thấy đối tượng tin rằng họ đã được “đọc”. Điều này dẫn đến một loạt câu hỏi, một lần nữa, nghe có vẻ rất cụ thể nhưng thực tế lại mang tính khái quát về mặt thống kê. Nếu đối tượng không phản hồi, nhà ngoại cảm sẽ tuyên bố lần đọc đầu tiên đã thành công và thử lại.

5. Vòng lặp xác thực chủ quan: Trò lừa đảo bắt đầu thực sự. Nhà ngoại cảm đặt một loạt câu hỏi nghe có vẻ rất cụ thể đối với đối tượng nhưng thực tế chỉ là những phỏng đoán có xác suất thống kê cao, dựa trên nhân khẩu học và các câu trả lời trước đó của họ, được diễn đạt theo một cách cụ thể và đầy tự tin.

6. “Wow! Nhà ngoại cảm đó là hàng thật!”: Nhà ngoại cảm kết thúc cuộc trò chuyện và đối tượng còn lại với cảm giác rằng nhà ngoại cảm có những khả năng siêu nhiên. Nhưng nhà ngoại cảm không phải là hàng thật. Tất cả chỉ là một trò lừa đảo.

1. Chọn lọc khán giả

Các nhà tiên tri, người đọc bài tarot, nhà ngoại cảm, người đọc suy nghĩ không phải tất cả đều là kẻ lừa đảo. Đôi khi “nhà ngoại cảm” cởi mở về việc tất cả chỉ là giải trí và không giả vờ có khả năng liên lạc với linh hồn hay đọc suy nghĩ. Một số nhà ngoại cảm hoàn toàn không có động cơ lợi nhuận, và nếu không có sự lừa lọc thì việc gọi ai đó là kẻ lừa đảo có vẻ không công bằng.

Nhưng nhiều người trong số họ là những kẻ lừa đảo cố tình đánh lừa mọi người, và tất cả họ đều hoạt động bằng cách sử dụng các cơ chế cơ bản giống nhau, bắt đầu từ rất lâu trước khi buổi đọc thực sự diễn ra.

Khán giả thường chỉ bao gồm những người đã có xu hướng tin vào các hiện tượng ngoại cảm và những người mà họ đã lôi kéo theo. Những người hoài nghi cứng rắn hầu như luôn là một nhóm thiểu số rất nhỏ trong khán giả, điều này vừa giúp họ dễ quản lý, vừa tạo áp lực xã hội buộc những người này phải giảm bớt sự hoài nghi của mình.

Những người tham dự đã được chuẩn bị tâm lý để tin tưởng và đã quen thuộc với thần thoại xung quanh các nhà ngoại cảm. Tất cả những điều đó giúp họ quản lý kỳ vọng và định hình màn trình diễn của mình.

2. Dàn dựng bối cảnh

Thông thường, khán giả được nhắc nhở về các quy tắc cơ bản về cách các buổi đọc ngoại cảm “hoạt động” ngay từ đầu buổi diễn. Họ được hỗ trợ bởi việc phổ biến các quy tắc này thông qua truyền thông, điện ảnh và truyền hình.