Hội chứng 'AI Psychosis' phần 2: Khi năng suất cao trở thành ảo tưởng

Tuần trước, tôi đã gợi ý rằng thuật ngữ "loạn thần AI" (AI psychosis) được áp dụng cho ít nhất ba tình huống khác nhau:

1) Những trải nghiệm loạn thần thực sự liên quan đến việc sử dụng LLM, một hiện tượng mà tôi mô tả là "loạn thần AI thực thụ".

2) Sự tương tác quá mức với các công cụ AI đi kèm với việc mất kết nối nhẹ với thực tế. Tôi gọi đây là "loạn thần AI năng suất".

3) Những mối quan hệ lệch lạc với các chatbot AI mô phỏng sự kết nối giữa người với người. Tôi gọi đây là "loạn thần AI ký sinh xã hội" (parasocial AI psychosis).

Sau đó, tôi đã thảo luận về chứng loạn thần AI thực thụ. Tôi đã làm rõ ý nghĩa của từ "loạn thần" đối với một bác sĩ tâm thần. Và tôi kết luận rằng loạn thần AI thực thụ thường là một biến thể của chứng loạn thần đã có từ trước hơn là một hội chứng mới.

Tuần này, tôi sẽ mô tả sự hiểu biết hiện tại của mình về chứng loạn thần AI năng suất.

Loạn thần AI năng suất

Loạn thần AI năng suất xảy ra khi một người tạo ra một lượng lớn đầu ra từ AI mà không làm tăng đáng kể giá trị thực tế cho công việc của họ. Trong một số trường hợp, quy trình làm việc mới với AI thậm chí có thể phá hủy giá trị.

Ví dụ, một kỹ sư phần mềm mắc chứng loạn thần AI năng suất có thể tạo ra hàng nghìn dòng mã mỗi ngày, nhưng bản thân mã đó lại có rất ít giá trị sử dụng trong thực tế. Ngược lại, một lập trình viên hiệu quả có thể tạo ra ít mã hơn, nhưng mã đó lại có giá trị đối với người dùng và tổ chức của họ. Một số ngày sẽ bao gồm việc bổ sung lượng lớn mã vào cơ sở mã, những ngày khác sẽ dành để xóa mã không cần thiết, và đôi khi, một lỗi làm hỏng phần mềm sẽ được sửa bằng cách thay đổi một ký tự duy nhất. Số dòng mã chỉ có mối tương quan lỏng lẻo với năng suất.

Hãy để tôi dịch điều đó sang những thuật ngữ quen thuộc hơn. Hãy nghĩ về tác giả yêu thích của bạn. Nếu bạn biết rằng họ thường viết khoảng 1.000 từ mỗi ngày, bạn sẽ lo lắng một cách chính đáng nếu họ bắt đầu viết 100.000 từ mỗi ngày. Sự chăm chút dành cho việc chọn lọc 1.000 từ tuyệt vời không thể duy trì được ở quy mô gấp 100 lần [1].

Vấn đề trong chứng loạn thần AI năng suất không phải là sản lượng tăng lên. (Nhiều mã hơn và nhiều văn bản hơn thực tế có thể mang lại năng suất cao hơn.)

Vấn đề nằm ở nhận thức của chủ thể về đầu ra của họ: họ không thể đánh giá chất lượng công việc của chính mình. Hiện tượng này mô phỏng chứng loạn thần vì chủ thể trải qua sự mất kết nối nhẹ với thực tế: một khiếm khuyết trong tư duy phản biện.

Các công cụ AI hiện nay

Trước khi đi xa hơn, điều quan trọng là phải mô tả các công cụ AI hiện nay. Đối với hầu hết mọi người, AI vẫn có nghĩa là một cuộc trò chuyện với ChatGPT hoặc một bản tóm tắt từ Gemini đính kèm với tìm kiếm trên Google. Mặc dù một vài người có thể trải qua chứng loạn thần AI năng suất với những công cụ này, nhưng các công cụ hiện đại nhất (state-of-the-art) lại gây ra mối đe dọa lớn hơn nhiều.

Có những điểm tương đồng giữa các công cụ AI hiện nay và chatbot: bạn nhập một câu lệnh (prompt); bạn nhận được phản hồi. Nhưng các công cụ hiện đại nhất hiện nay được bao bọc trong một chương trình gọi là "agent harness" (khung tác nhân). Thay vì trả lời một câu hỏi đơn giản thông qua trò chuyện, một "harness" được thiết kế để thực hiện các tác vụ phức tạp cho đến khi tìm ra giải pháp. Nó hoạt động như một tác nhân bằng cách đưa ra quyết định, mở chương trình, truy cập internet và viết phần mềm để giúp bạn đạt được mục tiêu.

Một "harness" tuyệt vời đặc biệt ấn tượng trong phát triển phần mềm. Nếu bạn muốn tạo một ứng dụng iPhone mười năm trước, bạn sẽ cần dành hàng chục giờ để đọc và viết mã để có một ứng dụng cơ bản hoạt động. Ngày nay, bạn có thể gõ vài câu vào Claude Code, trả lời vài câu hỏi, và một ứng dụng mới sẽ xuất hiện vài phút sau đó. Nó sẽ không quá xuất sắc, nhưng có thể giải quyết được vấn đề của bạn. (Việc đưa nó lên cửa hàng ứng dụng là một vấn đề hoàn toàn khác không thể giải quyết dễ dàng như vậy.)

Một lập trình viên có thể làm được nhiều hơn thế. Các "harness" có thể tạo ra các vòng lặp gọi liên tục các mô hình AI, xử lý danh sách việc cần làm trong phát triển phần mềm cho đến khi một ứng dụng hoàn chỉnh được xây dựng. Với sự kỷ luật, kết quả đạt được là vô cùng đáng kinh ngạc. Cảm giác thật kỳ diệu khi một tác nhân AI hoàn thành một nhiệm vụ khó khăn cho bạn.

Nhưng siêu năng lực nào cũng có nhược điểm, và AI đôi khi đưa ra những quyết định tệ hại đến mức khó tin. Nhiều tệp mới được tạo ra trong khi một bản sửa lỗi một dòng là đủ. Bạn được khẳng định một cách tự tin rằng giải pháp mới hoạt động, trong khi phần mềm thực tế của bạn lại hỏng hóc hơn bao giờ hết. Mã trở thành một mớ hỗn độn khó đọc và gần như không thể mở rộng. Những vấn đề đơn giản, tồn tại hàng thập kỷ đã được giải quyết bằng các giải pháp mã nguồn mở lại được xây dựng lại từ đầu, khiến sản phẩm của bạn chậm chạp một cách đau đớn. Chúng tôi đã tìm ra cách để giảm thiểu một số vấn đề này, nhưng đó là một kỹ năng cần thời gian để phát triển.

Một số người cho rằng các mô hình AI hiện nay hoạt động ở trình độ của một sinh viên cao học. Điều đó không khớp với trải nghiệm của tôi. Chúng là một phần kỹ sư cấp cao và một phần đứa trẻ mới biết đi đang chạy trên tấm thảm trắng với một bình nước ngọt Kool-Aid màu đỏ. Công việc của bạn là xác định đâu là phần nào. Thật không may, cả hai phía đều nói với sự tự tin tuyệt đối vào khả năng của mình, và chúng không phải lúc nào cũng biết khi nào chúng đã làm đổ nước ngọt. Và vì vậy, công việc của kỹ sư phần mềm giờ đây bao gồm một lượng lớn công tác giám sát khó khăn [2].

Đây là một cách khác để nghĩ về nó: Phát triển phần mềm bằng AI giống như chơi chiếc máy đánh bạc thuận lợi nhất thế giới. Hầu hết các lần kéo cần gạt đều là những chiến thắng lớn! Hầu hết các khoản thua lỗ đều rõ ràng và nhỏ. Đôi khi, một khoản thua lỗ trông giống hệt như một chiến thắng. Và trừ khi bạn có kỹ năng, sự tập trung và kiên nhẫn để từ chối những chiến thắng giả tạo, những sai lầm của bạn cuối cùng sẽ tạo ra sự hỗn loạn.

Sự phát triển của chứng loạn thần AI năng suất

Để minh họa quá trình tiến triển từ việc sử dụng công cụ LLM sang chứng loạn thần AI năng suất, hãy xem xét một ví dụ giả định.

Hãy tưởng tượng bạn là một kỹ sư phần mềm hiện đang có một công cụ có thể dễ dàng hoàn thành một số tác vụ nhanh hơn gấp 100 lần so với trước đây [3].

Nếu bạn thích xây dựng phần mềm, điều này còn hơn cả thú vị. Bạn có thể hoàn thành nhiều việc hơn tại nơi làm việc. Bạn có thể xây dựng dự án sở thích mà bạn hằng mong muốn. Bạn cuối cùng có thể tạo ra trò chơi điện tử trong mơ của mình. Mọi khả năng đều nằm trên bàn.

Và thế là bạn kéo cần gạt máy đánh bạc và bắt đầu. Trong khi các bánh xe quay, bạn thiết lập thêm nhiều máy hơn. Bạn vội vã quay lại để xem xét kết quả khi chúng xuất hiện. Lần này chúng rất tốt. Nhưng bạn vẫn thỉnh thoảng bắt gặp các lỗi. Và thế là bạn thiết lập các máy mới để giúp bạn kiểm tra công việc của mình. Đôi khi, chúng phát hiện ra vấn đề, và đôi khi thì không. Vì vậy, bạn tinh chỉnh các hướng dẫn của chúng. Bạn cung cấp cho chúng nhiều khả năng hơn. Bạn tạo ra các mạng lưới bot làm việc cùng nhau để giải quyết vấn đề. Mã cứ tiếp tục xuất hiện.

Tham vọng của bạn lớn dần. Bạn không chỉ tạo ra phần mềm mới; bạn sẽ là lập trình viên đầu tiên điều hành một công ty trị giá một tỷ đô la. Điều đó đã được dự đoán. Tại sao không phải là bạn? Phạm vi dự án của bạn tăng lên. Bạn không thể ngủ vào ban đêm vì quá hào hứng với công việc. Bạn dành ngày càng nhiều thời gian với máy tính, và ngày càng ít thời gian với con người. Những người nghi ngờ nỗ lực của bạn không hiểu chuyện. Những lời chỉ trích của họ thật thiển cận. Và ngay cả khi các mô hình chưa hoàn hảo bây giờ, bộ công cụ tiếp theo sẽ tốt hơn.

Theo thời gian, việc thiếu ngủ và sự tập trung quá mức kéo bạn ra khỏi thực tế. Phần mềm của bạn ấn tượng ở nhiều khía cạnh. Nhưng nó có hữu ích không? Nó có tốt không? Nó có phải là thứ mà mọi người thực sự muốn không? Bạn không có thời gian cho những câu hỏi này. Bạn cần "thoát khỏi tầng lớp dưới cùng vĩnh viễn".

Tôi cảm thấy căng thẳng chỉ khi nghĩ về điều đó.

Mặc dù tôi không nghĩ mình từng trải qua chứng loạn thần AI toàn diện, nhưng tôi đã trải qua những khoảng thời gian ngắn mà tôi đang đi theo con đường này. Cảm giác đạt được tiến bộ nhanh chóng thật tuyệt vời. Và có những lúc đầu ra của mô hình không gì khác hơn là một phép màu.

Ảo tưởng tan vỡ khi tôi nhận ra rằng mình không thể hiểu dự án của chính mình. Đó không phải là cảm giác xa lạ trong giới công nghệ: mọi tiến bộ đều được xây dựng trên các lớp tiến bộ mà tôi sẽ không bao giờ đánh giá hết được [4]. Nhưng tôi chưa bao giờ viết hàng chục tệp tùy chỉnh mà không có ý niệm nhỏ nhất về cách chúng hoạt động. Và tôi trở nên không thể thêm các tính năng mới mà không bắt đầu lại từ đầu.

Tôi đã nói chuyện với nhiều lập trình viên từng trải qua trải nghiệm tương tự. Cuộc sống tốt đẹp hơn nhiều ở phía bên kia. Có hàng chục quy trình làm việc AI hiệu quả—mỗi quy trình đều có ưu điểm và nhược điểm. Nhưng tất cả các lập trình viên hiệu quả nhất dường như đều ưu tiên sự phán đoán của con người, giấc ngủ và ít nhất là một chút dáng dấp của cuộc sống bên ngoài công việc.

Nguyên nhân của chứng loạn thần AI năng suất

Tôi chỉ có thể suy đoán về nguyên nhân của chứng loạn thần AI năng suất.

Những phần thưởng theo kiểu máy đánh bạc của các công cụ AI chịu một phần trách nhiệm. Sự củng cố không liên tục (intermittent reinforcement)—việc nhận được kết quả tích cực hoặc tiêu cực theo lịch trình không thể đoán trước—là một trong những động lực mạnh mẽ nhất của hành vi con người. Đây cũng là một đặc điểm quan trọng của công nghệ LLM mà không thể loại bỏ hoàn toàn.

Các yếu tố cá nhân cũng rất quan trọng. Tôi nghi ngờ rằng những người mắc chứng ADHD và các vấn đề về kiểm soát xung động có nguy cơ mắc chứng loạn thần AI năng suất cao hơn. Tương tự, các đặc điểm tính cách như cởi mở cao và tận tâm thấp có thể tương quan với rủi ro.

Kinh nghiệm có thể đóng một vai trò nào đó. Hiện vẫn chưa rõ liệu các lập trình viên mới hay các kỹ sư cấp cao có nguy cơ cao hơn hay không. Tôi nghi ngờ rằng các lập trình viên mới dễ bị tổn thương hơn, nhưng các báo cáo về những lập trình viên nổi tiếng trải qua chứng loạn thần AI năng suất rõ rệt là tương đối phổ biến [5].

Sự phấn khích về văn hóa cũng ảnh hưởng đến hành vi của lập trình viên. Những công cụ này rất mạnh mẽ khi được sử dụng đúng cách. Nhưng mọi cuộc cách mạng công nghệ đều đi kèm với sự cường điệu vô căn cứ và các kế hoạch làm giàu nhanh chóng. Thật dễ dàng để bỏ qua những mặt trái khi mặt tích cực quá hấp dẫn.

Câu chuyện rằng AI sẽ thay thế tất cả các công việc cũng không giúp ích gì [6]. Thông điệp này đã dịu đi trong những tháng gần đây, nhưng nỗi sợ hãi vẫn còn đáng kể. Điều này đặc biệt đúng với các kỹ sư phần mềm, những người thường thấy khó tìm được vai trò mới sau khi bị sa thải. Nhiều đầu ra hơn—ngay cả khi nó không thực sự hiệu quả—vẫn thúc đẩy phần thưởng trong các môi trường dựa trên số liệu.