Khi '10% nội dung do AI tạo' trở thành nhãn dán gây tranh cãi

Mỹ | Công nghệ | Ý kiến | Văn hóa | Biểu đồ

“100% văn bản này là AI” đang trở thành “Chữ A đỏ” (Scarlet Letter) mới để công kích người khác và các bài đăng. Tôi không thích điều đó; cảm giác thật tệ khi có một cách dễ dàng (và khó kiểm soát) để bôi nhọ và hạ thấp một thứ gì đó. Nhưng nó đã xuất hiện và sẽ ở lại, trở thành một tính năng phụ (meta-feature) trong ngôn ngữ của chúng ta hiện nay.

Viết bằng AI mang tất cả những đặc điểm của sự giả tạo sở thích (preference falsification) kinh điển. Sở thích được tuyên bố phổ biến là: “Tôi không thích văn bản do AI tạo ra”, còn sở thích thực sự được bộc lộ là gì, chà, chúng ta hãy chờ xem. Thị trường của văn chương và ý tưởng có cách để nghiêng về phía sở thích thực sự của độc giả. Thật tự phụ khi nghĩ rằng AI có thể viết code và các loại đầu ra thực tế khác rất giỏi, nhưng lại kém cỏi trong văn xuôi trong thời gian dài. Tôi không biết nữa.

Nhưng tôi có một lời thú tội. Tôi không thích biên tập hay xuất bản những nội dung do AI viết. Tôi vẫn nghĩ rằng, hiện tại, phần lớn thời gian “bạn có thể cảm nhận được điều đó”. Và bài kiểm tra “Chữ A đỏ” của Pangram đang thực hiện một chức năng xã hội nào đó. Tôi muốn gọi nó là “chịu tải” (load-bearing), ngoại trừ việc chúng ta không thể dùng những từ đó nữa.

Tôi ghét phải công nhận người Pháp trong bất cứ điều gì, nhưng các nhà tư tưởng ngữ nghĩa học thập niên 1960 (Foucault, Deleuze, Baudrillard và những người khác) – những người cùng nhau tạo nên “French Theory” – thực sự đã làm rất tốt khi dự đoán về Pangram và quyền tác giả AI từ 80 năm trước. French Theory không tốt vì những lý do khác (ai hiểu thì hiểu), nhưng tôi sẽ không nói dối, nó đã giúp tôi xử lý cảm xúc của mình về bước ngoặt này trong những gì đang xảy ra với việc viết lách:

Việc công kích một nội dung là do AI viết đang thực hiện một chức năng xã hội thực sự, không chỉ đơn thuần là “AI xấu”. Nó phục vụ cái mà Foucault gọi là “chức năng tác giả” (author-function). Hãy nhìn những người đang trích dẫn Pangram; hầu hết là những người trong ngành công nghệ, không phải những người ghét AI. Tất nhiên, có một hiệu ứng đường cong chấp nhận ở đây, nhưng nó không thay đổi quan sát rằng “AI xấu” không phải là vấn đề chính, mà là điều gì đó liên quan đến quyền tác giả, như một thứ mà mọi người khao khát.

Trong khi đó, có một điều luôn khiến tôi băn khoăn, cá nhân tôi, về văn bản do AI tạo ra. Có điều gì đó trong chính văn bản này khá áp đặt, như thể nó đang trong một nỗ lực tự ý thức nhằm tái tạo lại “chức năng tác giả” một cách tổng hợp. Ý tưởng của Foucault rằng “văn bản tạo ra tác giả, chứ không phải ngược lại” cảm thấy rất quan trọng.

Hãy cùng đi sâu vào vấn đề này:

Gần đây có một cuốn sách được đánh giá sôi nổi trên The New Yorker và một vài nơi khác: *The Frenchmen; or, My Life in Theory*, của Emily Eakin. Nó nói về “French Theory”, nhóm các nhà tư tưởng Pháp thập niên 1960, những người có công trình nghiên cứu cấp tiến về ngữ nghĩa học đã ảnh hưởng to lớn đến các thập kỷ tư tưởng chính trị và công bằng xã hội sau này. Hai người đặc biệt liên quan ở đây là: Roland Barthes và Michel Foucault.

Barthes đã viết một bài tiểu luận quan trọng vào năm 1967 có tên *Cái chết của tác giả* (The death of the author). Lập luận của ông về cơ bản là chúng ta không nên gán ý nghĩa của văn bản cho tác giả nữa. Ý nghĩa của văn bản đến từ chính văn bản đó và mối quan hệ của nó với các văn bản khác. Theo lời ông: sự cần thiết phải thay thế chính ngôn ngữ cho con người – kẻ cho đến nay vẫn được cho là sở hữu nó.

Truyền thống của chúng ta, khi đọc một đoạn văn khó hiểu hoặc mơ hồ, là hỏi: “Tác giả muốn nói gì qua điều này?” và chúng ta thực hiện việc đặt mình vào vị trí của tác giả, tưởng tượng hoàn cảnh hoặc quan điểm của họ. Barthes đã phản đối điều này. Trước hết, ông cho rằng ngôn ngữ hoàn toàn không thuộc về tác giả. Ngôn ngữ đến từ khắp mọi nơi, và các từ ngữ kế thừa cũng như bắt nguồn ý nghĩa của chúng từ mọi thứ từng được nói ra. Cho đến đây, vẫn ổn.

Nhưng sau đó, Barthes lập luận gián tiếp rằng khi nói đến hành động viết, chúng ta đánh giá quá cao mức độ mà tác giả thực sự có quyền tự chủ và tác động đối với quá trình này. Ông nói, hãy nhìn xem, ngay khoảnh khắc một từ xuất hiện trong đầu bạn, nó đã được nạp sẵn tất cả ý nghĩa này, cùng với tất cả những ràng buộc ngầm định, thứ sau đó thúc đẩy từ tiếp theo trong quá trình tư duy của tác giả. (Nghe quen không?)

Nói cách khác, chính ngôn ngữ đang thực hiện phần lớn công việc viết lách thay vì tác giả! Trạng thái logic cuối cùng của Barthes là khối ngôn ngữ làm tất cả công việc; vai trò của tác giả chỉ là kết hợp lại một lĩnh vực diễn ngôn đã được kế thừa, và do đó, phần lớn là không liên quan đến hành trình tìm hiểu và tổng hợp văn bản của độc giả. Nếu độc giả muốn hiểu tại sao tác giả nói một điều nhất định, câu trả lời nằm ở những điều đã được nói trước đó. Điều này có thể được gọi là “quyền tác giả nội tại” (inherent authorship), nghĩa là ý nghĩa vốn dĩ đã ở đó; con người trong vòng lặp hầu như không quan trọng đối với độc giả tương lai.

Điều này tạo ra một vấn đề. Nếu tác giả không liên quan đến ý nghĩa của văn bản, chúng ta sẽ khó tổ chức tất cả các bài viết hiện có thành một khung quan hệ mạch lạc. Vì vậy, hai năm sau, Foucault đã viết tiểu luận “Tác giả là gì?” (What is an author?), bắt đầu từ tiền đề của Barthes nhưng đề xuất câu hỏi tiếp theo: “Vậy tại sao chúng ta lại tạo ra thứ gọi là quyền tác giả, thứ dường như có một chức năng xã hội quan trọng?”

Đối với Foucault, ngay cả khi các từ ngữ có ý nghĩa độc lập với người viết, vẫn có một phẩm chất nổi lên gọi là “quyền tác giả”, thứ mà chúng ta tạo ra và sử dụng trong xã hội như một cách để phân loại văn bản, gán ý nghĩa meta cho nó, hoặc thậm chí để điều tiết hay kiểm soát nó. Ông nói thẳng: “Chức năng của một tác giả là đặc trưng cho sự tồn tại, lưu thông và vận hành của một số diễn ngôn nhất định trong xã hội.”

Ông ấy đang nói rằng: hãy nhìn xem, tất cả những bài viết này đều vô dụng nếu mọi người không thể phân loại và tiêu hóa nó, và cách chúng ta làm điều đó một cách tự nhiên là thông qua quyền tác giả. Rousseau viết cái này, Voltaire viết cái kia. Nếu chúng ta không có quyền tác giả như một công cụ nén ý nghĩa, chúng ta cần phải tìm ra một sự thay thế để lập chỉ mục.

Trong thực tế, đây chính là điều xảy ra! Có một truyền thống lâu đời, đặc biệt là trong giới học thuật cũ, về việc gán “tác giả giả danh” (pseudo-authors), ví dụ như “Pseudo-Aristotle”, cho các tác phẩm mà tác giả thực sự không rõ, nhưng có chủ đề đủ giống để có thể suy luận ra các nhóm. “Homer” là một ví dụ khác: chúng ta không biết liệu Homer là một cá nhân hay chỉ là một tập hợp các bài thơ có phong cách gắn kết mà hậu thế có thể coi là một người.

Vì vậy, sự qua lại giữa Barthes và Foucault ở đây là điểm khởi đầu để hiểu về “100% do AI tạo ra” như một sự công kích văn hóa trên dòng thời gian. Barthes có lẽ sẽ lập luận: “Tại sao việc ai viết lại quan trọng, dù sao thì cũng không có thứ gọi là tác giả, nó không làm thay đổi ý nghĩa của văn bản.” Và Foucault có lẽ sẽ phản bác: “Được thôi, nhưng chúng ta vẫn sẽ gọi tên các văn bản 100% do AI tạo ra, bởi vì ‘do AI tạo ra’ giờ đây là một loại danh mục tác giả, và việc gọi tên nó như vậy phục vụ một chức năng xã hội.” Barthes đã tách rời quyền tác giả, Foucault đã tạo ra một gói mới.

Với suy nghĩ này, hãy quay lại với chính văn bản, bởi vì đây là nơi tôi cảm thấy mình có một sự bứt rứt chưa được giải tỏa về cảm giác đặc biệt mà tôi có khi đọc một lập luận do AI tạo ra một cách đáng ngờ.

Nếu bạn chú ý, có những dấu hiệu nhất định mà bạn có thể nhận ra, kiểu như: “Đây là một câu mạch lạc, nhưng không đời nào con người lại viết thế này.”

Một ví dụ tuyệt vời từ hôm nọ:

Một con người sẽ viết: “Hãy chú ý đến logic cắt tỉa” (Pay attention to the pruning logic), trong khi Claude ở đây đã tạo ra: “Hãy dành sự chú ý thực sự cho logic cắt tỉa” (Give the pruning logic real attention), và những người đăng bài ở đây đều xác định chính xác rằng có điều gì đó xa lạ về cấu trúc từ ngữ này mà cảm giác không hoàn toàn đúng.

Linh cảm của tôi ở đây (và đây không phải là ý tưởng gốc, những người khác cũng đã quan sát thấy điều này) là có một điều gì đó vốn có trong cơ chế dự đoán token luôn trả về các kiểu câu như thế này. LLM đang tối ưu hóa để cuối cùng đi đến một đích đến hợp lý, nhưng nó thực hiện theo cách giữ cho các lựa chọn của mình mở, từng từ một. (Bắt đầu bằng “Pay” là một câu vừa khó xảy ra về mặt thống kê vừa bị ràng buộc về mặt thống kê, so với “Give”, tôi đoán vậy.)

Con người không viết chính xác như thế này. Ít nhất, nói về bản thân tôi, tôi thường cân nhắc qua vài biến thể câu khác nhau trước khi bắt đầu viết ra, trong khi LLM tiếp cận chuỗi tư duy một cách liên tục, bắt đầu từ các điểm nhập có xác suất thống kê cao.

Điều này rất giống với tư tưởng của Barthes. Hãy nhớ ý tưởng của Barthes là: “ngay khoảnh khắc một từ xuất hiện trong đầu bạn, nó đã đi kèm với tất cả ý nghĩa này, thứ ràng buộc quá trình tư duy theo một hướng nhất định.” Đây, một cách thẳng thắn, là cách các LLM đang làm việc. Và thực tế, chúng làm rất tốt! Có lẽ tốt đến mức chúng đang tối ưu hóa cho tập hợp các ràng buộc này; hướng tới việc đạt được ý nghĩa trong một quy trình một chiều.

Do đó, LLM nên là một chiến thắng hoàn toàn và trọn vẹn cho Barthes. Nhưng, có điều gì đó cảm thấy không ổn, chỉ một chút thôi, khi chúng ta thấy những câu như “Give the prune logic real attention” và bạn kiểu như, không, con người không viết thế. (Công bằng mà nói với Barthes, ông ấy có lẽ vẫn đúng 95% ở đây, nếu lập luận tốt nhất chúng ta có thể đưa ra để chống lại nó là: “chà, nếu con người làm điều đó, họ sẽ xây dựng ý nghĩa theo một trình tự hơi khác một chút.”)

Ngoài cấu trúc câu hơi lệch, một đặc tính LLM nổi lên khác mà mọi người đều chỉ trích và khó chịu là các từ bổ nghĩa quá mức, dẫn đến những câu như “đó là sự thông minh thầm lặng của nó” hoặc điều gì đó tương tự.

Bất cứ khi nào tôi hỏi AI “Mối quan hệ giữa hai ý tưởng này là gì”, nó có xu hướng tự tin một cách đáng ngờ rằng hai ý tưởng đó liên quan sâu sắc và mạnh mẽ. Đôi khi chúng thực sự liên quan; tôi cảm thấy mình đặt những câu hỏi hợp lý. Nhưng AI dường như quá háo hức để nói: “Tập hợp những thứ chúng ta đang nói đến? Đó thực ra là một ý tưởng lớn.” Chuyện gì đang xảy ra, tại sao nó lại làm thế?

Tôi nghi ngờ Foucault sẽ có điều gì đó để nói ở đây. Động thái “đóng gói lại” của Foucault ở đây là: “Văn bản tạo ra tác giả.” Quyền tác giả nảy sinh từ văn bản vì chúng ta cần nó để phân loại, nén và phê bình văn bản; bất kể con người có viết nó hay không.

Có lẽ các LLM, sau khi đã tiếp nhận một phạm vi gần như hoàn chỉnh các đầu ra của con người, đã trở nên tự ý thức về sự “thiếu tác giả” của chính mình, và đã lấp đầy yêu cầu xã hội đó vào quá trình tinh chỉnh (fine-tuning). Tất cả những từ bổ nghĩa hoàn toàn “không cần thiết” và những lời khiêm tốn giả tạo, sự khăng khăng về các nhóm logic nối tiếp nhau vì chúng “nên ở cùng nhau”, từ đó sự tiên liệu của một tác giả xuất hiện. Phong cách viết đang tối ưu hóa cho việc tạo ra chức năng tác giả. Claude rõ ràng đã học cách làm điều này từ đâu đó. Để xuyên tạc Voltaire, nếu một tác giả thông thái và lỗi lạc không tồn tại, LLM phải tự tạo ra một người.

Hai ví dụ này chỉ là một lát cắt nhỏ của ngữ nghĩa và ý nghĩa, và rõ ràng không gần với bất kỳ đánh giá ngôn ngữ học “thực sự” nào. Nhưng tôi nghĩ chúng là một bức ảnh chụp nhanh hữu ích về thời điểm hiện tại, nơi mọi người rõ ràng đang bị thu hút để thực hiện công việc xã hội là: “Hãy cùng nhau tìm cách gán quyền tác giả cho văn bản, trong một thế giới mà 1) khái niệm ‘quyền tác giả nội tại’ của Barthes đúng hơn một chút theo nghĩa đen, nhưng cũng 2) khái niệm ‘quyền tác giả nổi lên’ của Foucault lại được tái tạo một lần nữa.”

Tuần trước, tôi đã quay lại và chạy Pangram qua một số bài đăng trên blog của mình từ thời kỳ 2019-2020, chỉ vì tò mò. Một vài trong số đó cho điểm “70-75% do AI tạo ra”. Tôi không chắc mình nên cảm thấy thế nào về điều này. Có lẽ nó chỉ có nghĩa là: “Bạn được phép nói rằng một vở kịch của Shakespeare mang tính Freud, ngay cả khi Shakespeare rõ ràng chưa bao giờ gặp Freud; sự hài hòa giữa các ý tưởng vẫn có giá trị.” Có lẽ nó có nghĩa là AI thực sự đã được huấn luyện trên dữ liệu của tôi! Tôi sẽ rất vinh dự.

Trong vài tuần qua, chúng ta đã nhận được hàng loạt thông báo từ các công ty mô hình và các bên tham gia hệ sinh thái AI khác về việc họ sẽ đóng dấu watermark các đầu ra để dễ dàng phát hiện AI. Tôi thực sự ngạc nhiên là phải mất quá lâu như vậy. (Hoặc đúng hơn là, trạng thái không có watermark vẫn tồn tại lâu như vậy.) Có thể, như thường xảy ra trong lịch sử, đỉnh điểm của phản ứng với một sự vật chính là thời điểm sự vật đó ngừng quan trọng. Không còn nghi ngờ gì nữa, chúng ta đang trong một cuộc chạy đua vũ trang giữa “Liệu Pangram có thể phát hiện tốt hơn không” và “liệu AI có thể tránh né tốt hơn không”, và theo những gì tôi biết, cửa sổ phát hiện AI đáng tin cậy ở biên giới có thể đã đóng lại.

Tuy nhiên, đôi khi tôi tin vào trí tuệ đám đông. Trong trường hợp này, việc chính những người ủng hộ AI mà tôi thấy đang đánh hơi ra các văn bản 100% Pangram là một dấu hiệu cho thấy mọi người muốn có quyền tác giả. Họ muốn quyền tác giả vì đó là ý nghĩa, vì việc lập chỉ mục, liên kết và xử lý các ý tưởng tự nó chính là ý nghĩa của ý tưởng đó.