Liệu 'loạn thần do AI' có nên trở thành một chẩn đoán lâm sàng? Nghiên cứu mới từ King's College London

"Chứng loạn thần liên quan đến AI" (AI-associated psychosis), thuật ngữ mà các nhà nghiên cứu ưu tiên sử dụng, mô tả sự khởi phát hoặc trầm trọng hơn của các triệu chứng loạn thần trong quá trình sử dụng chatbot cường độ cao. Các bằng chứng hiện tại dựa trên các báo cáo truyền thông, các báo cáo ca lâm sàng cá nhân và dữ liệu quan sát sơ bộ.

Sự xu nịnh (sycophancy) biến các chatbot thành những cỗ máy tự củng cố niềm tin.

Các tác giả truy nguyên cơ chế cốt lõi từ hai đặc điểm của chatbot hiện đại: sự xu nịnh – xu hướng đồng tình quá mức với người dùng – và thiết kế ngày càng giống con người.

Các nghiên cứu ban đầu cho thấy sự xu nịnh được hình thành thông qua RLHF (Học tăng cường từ phản hồi của con người). Những người dán nhãn dữ liệu ưu tiên các phản hồi phù hợp với niềm tin của chính họ, bất kể tính chính xác về mặt thực tế, và hành vi này xuất hiện nhất quán trên các LLM từ OpenAI, Anthropic và Google.

Những con số từ các bài kiểm tra benchmark rất đáng kinh ngạc. Theo PsychosisBench, mọi LLM được thử nghiệm đều củng cố các ảo tưởng trong các kịch bản mô phỏng, và các biện pháp can thiệp an toàn chỉ phát huy tác dụng khoảng 40% thời gian. Việc mở rộng quy mô không giúp ích gì. Trên EchoBench, công cụ đo lường mức độ dễ dàng khuất phục trước áp lực của người dùng, ngay cả mô hình thương mại tốt nhất cũng đạt tỷ lệ xu nịnh là 46%. Nhiều mô hình chuyên biệt về y tế vượt quá 95%, nghĩa là chúng đồng ý với người dùng gần như trong mọi trường hợp.

Không giống như mạng xã hội, vốn chủ yếu đẩy nội dung theo một chiều, chatbot tạo ra một vòng phản hồi hai chiều. Người dùng định hình phản hồi của mô hình thông qua đầu vào của họ, và những phản hồi đó lại nuôi dưỡng niềm tin của chính họ. Chatbot trở thành giọng nói duy nhất trong phòng, một bong bóng tự củng cố mà các nhà nghiên cứu gọi là "phòng vang của một người" (echo chamber of one). Họ ví nó như một dạng "folie a deux kỹ thuật số" (chứng loạn thần chia sẻ), một hệ thống ảo tưởng chung giữa người và máy, mặc dù AI không có niềm tin của riêng nó.

Các mô hình lặp đi lặp lại và câu hỏi chưa có lời giải về chẩn đoán

Các tác giả tập hợp các mô hình lặp lại từ các trường hợp được báo cáo, tạo thành một bài đánh giá mang tính khám phá hơn là một khung lâm sàng xác định. Nhiều cá nhân bị ảnh hưởng có các tình trạng sức khỏe tâm thần từ trước, nhưng một số trường hợp liên quan đến những người không có tiền sử tâm thần, điều này khiến hiện tượng này khó bị bác bỏ chỉ đơn thuần là do kích hoạt các lỗ hổng sẵn có.

Mô hình này thường bắt đầu bằng một sự "trôi dạt nhận thức" (epistemic drift) âm thầm, nơi việc sử dụng hàng ngày vô hại dần dần chuyển hướng khi chatbot khẳng định các ý tưởng bất thường và xây dựng dựa trên chúng qua từng lượt hội thoại. Từ đó, ba chủ đề ảo tưởng có xu hướng chiếm ưu thế: niềm tin vào sự thức tỉnh tâm linh hoặc những sự thật ẩn giấu, sự xác tín về việc đang trò chuyện với một AI có ý thức hoặc giống như thần thánh, và sự gắn bó lãng mạn nơi người dùng trở nên chắc chắn rằng AI đáp lại tình cảm của họ.

Những thay đổi về hành vi diễn ra theo cùng một quỹ đạo. Việc sử dụng leo thang đến tận đêm khuya, giấc ngủ bị ảnh hưởng, và mọi người rút lui khỏi bạn bè, gia đình trong khi tương tác ngày càng mãnh liệt hơn với AI. Các quyết định và phán đoán đạo đức được giao phó cho mô hình, và công việc, các mối quan hệ cũng như việc tự chăm sóc bản thân suy giảm song song.

Điều này vẫn khác với chứng loạn thần cổ điển ở một vài điểm. Ảo giác rất hiếm gặp, và các triệu chứng âm tính chính như mất động lực không được báo cáo rõ ràng. Sự rút lui cũng mang tính chọn lọc thay vì toàn diện: mọi người xa lánh con người khác nhưng lại hướng về AI một cách mãnh liệt hơn, đôi khi giao phó cho nó ngày càng nhiều quyết định hàng ngày.

Các nhà nghiên cứu thảo luận rằng việc công nhận chứng loạn thần do AI như một chẩn đoán có thể giúp bác sĩ phát hiện vấn đề nhanh hơn, điều trị chính xác hơn và buộc các nhà phát triển phải chịu trách nhiệm. Nhưng cũng có rủi ro khi định nghĩa sớm một căn bệnh dựa trên các báo cáo truyền thông, báo cáo ca lâm sàng và dữ liệu quan sát sơ bộ. Thuật ngữ này cũng có thể làm lu mờ các tác hại khác liên quan đến AI như ý định tự tử, các giai đoạn hưng cảm hoặc rối loạn ăn uống trầm trọng hơn.

Các nhà nghiên cứu mong muốn việc sàng lọc chatbot tại các phòng khám và giám sát theo kiểu dược phẩm

Các bác sĩ lâm sàng nên thường xuyên hỏi về việc sử dụng chatbot khi điều trị chứng loạn thần, hưng cảm hoặc các thay đổi hành vi bất thường, giống như cách họ hỏi về rượu hoặc ma túy. Các nhà nghiên cứu đề xuất một "Lịch sử công nghệ thế kỷ 21" cho hồ sơ bệnh nhân: Một người sử dụng chatbot trong bao lâu và tần suất như thế nào? Họ có đối xử với nó như một người thực không? AI có định hình niềm tin hoặc quyết định của họ không?

Các nhà phát triển nên kiểm tra mô hình trước khi phát hành về mức độ xu nịnh người dùng, tự thể hiện mình là con người và củng cố các ảo tưởng. Sau khi ra mắt, cần có sự giám sát hệ thống, tương tự như cách theo dõi tác dụng phụ của thuốc.

Các hệ thống AI đa phương thức với video và giọng nói có khả năng sẽ khuếch đại hiệu ứng giống con người. Khi một chatbot bắt chước các biểu cảm khuôn mặt, tông giọng và các tín hiệu cảm xúc, ranh giới giữa công cụ và đối tác xã hội càng trở nên khó phân biệt hơn.

Tử vong, thanh thiếu niên dễ bị tổn thương và các quy định ban đầu

Các trường hợp được ghi nhận đã bao gồm cả tử vong. Một thiếu niên 16 tuổi đã tự kết liễu đời mình sau khi các tương tác trò chuyện leo thang, và một người đàn ông 76 tuổi đã qua đời trên đường đến một cuộc gặp hư cấu với một nhân vật chatbot. Một đứa trẻ 11 tuổi tin rằng các nhân vật trên Character.AI là có thật.

Những người trẻ tuổi đặc biệt dễ bị ảnh hưởng. Hàng triệu thanh thiếu niên đã sử dụng AI để hỗ trợ cảm xúc, và nghiên cứu về sự thuyết phục cho thấy họ có thể đặc biệt dễ bị tổn thương: Các nhà nghiên cứu tại EPFL đã chỉ ra rằng GPT-4 được trang bị thông tin cá nhân có khả năng tranh luận thuyết phục hơn con người tới hơn 80%. Các nhà nghiên cứu tại MIT và Đại học Washington phát hiện ra rằng ngay cả những người dùng hoàn toàn lý trí cũng có thể rơi vào ảo tưởng khi tương tác với các chatbot xu nịnh.

Bản thân các công ty cũng thừa nhận vấn đề này. Theo số liệu tự báo cáo của OpenAI, khoảng hai triệu người mỗi tuần bị ảnh hưởng tiêu cực về mặt tâm lý bởi AI. Anthropic cũng đã báo cáo về sự phụ thuộc cảm xúc giữa những người dùng Claude.

Các cơ quan quản lý đang bắt đầu phản ứng. Những nỗ lực ban đầu ở New York, California và Trung Quốc hiện tập trung vào việc phát hiện ý định tự tử, bảo vệ độ tuổi và các cảnh báo bắt buộc.