Emily Bender làm rõ ẩn dụ 'vẹt ngẫu nhiên': Chỉ dành cho LLM, không phải toàn bộ AI

Vào tháng 3 năm 2021, một nhóm gồm bốn nhà nghiên cứu—sự hợp tác giữa các nhà ngôn ngữ học và các nhà khoa học máy tính—đã xuất bản bài báo giờ đây đã trở thành huyền thoại của họ với tiêu đề “Về những nguy cơ của Stochastic Parrots: Liệu các mô hình ngôn ngữ có thể quá lớn? 🦜”

Bài báo đã nhận được sự chú ý đáng kể vào thời điểm đó (một phần vì Google đã sa thải hai trong số các tác giả, Timnit Gebru và Margaret Mitchell, ngay trước khi nó được công bố). Bài báo lập luận rằng các mô hình ngôn ngữ lớn (LLM) tạo ra văn bản bằng cách dự đoán thống kê các chuỗi từ có khả năng xảy ra thay vì thực sự hiểu những gì chúng đang nói—một quá trình mà các tác giả đã đúc kết bằng phép ẩn dụ “stochastic parrot” (vẹt ngẫu nhiên), một hệ thống lặp lại các khuôn mẫu mà không có sự thấu hiểu. Và trong năm năm qua, phép ẩn dụ này đã lan rộng ra ngoài lĩnh vực học thuật nơi nó khởi nguồn, làm dấy lên các cuộc tranh luận và truyền cảm hứng cho các dự án như một robot gắn trên vai có tên là Stochastic Parrot.

Nhưng việc sử dụng rộng rãi đó cũng dẫn đến những hiểu lầm về ý nghĩa ban đầu của cụm từ này. Tác giả chính Emily M. Bender, giáo sư ngôn ngữ học tính toán tại Đại học Washington, gần đây đã viết một bài blog để làm rõ những hiểu lầm phổ biến về bài báo nhân kỷ niệm năm năm ra đời của nó.

Bender đã trao đổi với IEEE Spectrum về những hiểu lầm này, về lĩnh vực ngôn ngữ học tính toán và các cuộc thảo luận hiện nay xoay quanh trí tuệ nhân tạo.

Điều gì sai với thuật ngữ “Trí tuệ nhân tạo”

Bà mô tả công việc của mình với tư cách là một nhà ngôn ngữ học tính toán như thế nào?

Emily M. Bender: Ngôn ngữ học, nói một cách rất tổng quát, là nghiên cứu về cách ngôn ngữ vận hành và cách chúng ta làm việc với ngôn ngữ. Tôi đóng góp vào lĩnh vực đó, và tôi cũng làm việc trong ngành ngôn ngữ học tính toán, đào tạo các sinh viên sẽ tiếp tục xây dựng công nghệ ngôn ngữ.

Công nghệ ngôn ngữ thực sự là một lĩnh vực có giá trị và thú vị, độc lập với việc liệu ai đó có muốn sử dụng nó cho dự án trí tuệ nhân tạo của họ hay không. Công nghệ ngôn ngữ bao gồm những thứ như phiên âm tự động, dịch máy, kiểm tra chính tả. Và rất nhiều công việc mà cá nhân tôi thực hiện, khi tôi xây dựng các hệ thống, liên quan đến việc xây dựng các ngữ pháp mà máy tính có thể đọc được, nhưng con người cũng có thể đọc được, nhằm mô hình hóa các hiện tượng ngôn ngữ trong các ngôn ngữ khác nhau. Đó là việc sử dụng máy tính để phục vụ cho việc kiểm chứng các giả thuyết ngôn ngữ.

Bà từng lập luận rằng thuật ngữ “trí tuệ nhân tạo” gây hiểu lầm nhiều hơn là làm rõ vấn đề. Tại sao vậy?

Bender: Có nhiều lý do. Tôi nghĩ rằng nó gây khó khăn cho việc thực sự có những cuộc thảo luận chất lượng về công nghệ và đưa ra các quyết định sáng suốt về nó, nếu cách chúng ta nói về nó không làm rõ được công nghệ đó là gì. Cụm từ “trí tuệ nhân tạo” vừa gộp chung các công nghệ khác biệt lại với nhau, vừa thổi phồng quá mức khả năng của từng công nghệ đó. Vì vậy, nếu chúng ta đang cố gắng quyết định có nên sử dụng thứ gì đó hay không, hoặc cách quản lý nó như thế nào, chúng ta sẽ tốt hơn nhiều nếu có những mô tả rõ ràng hơn.

Trong các cuộc trò chuyện thông thường, AI đã trở nên gần như đồng nghĩa với “chatbot” hoặc “LLM”. Đó có phải là một vấn đề không?

Bender: Nhiều người sẽ nói: “Tôi dùng nó để làm việc này việc kia.” Vậy ý bạn khi nói “nó” là gì? Và sau đó họ sẽ nói: “Ồ, ý tôi là Claude” hoặc ChatGPT hay Gemini, vì vậy họ đang nói về những chatbot này. Nhưng những người khác lại nói: “Bạn không thể nói AI hoàn toàn xấu được, vì còn AlphaFold thì sao?”

Vì vậy, vâng, với nhiều người, họ đang nói về các chatbot được xây dựng dựa trên các mô hình ngôn ngữ lớn, nhưng họ cũng không thực sự rõ ràng rằng những thứ đó tách biệt với một thứ như AlphaFold. Và khi chúng ta có các bản tin nói rằng “các nhà khoa học sử dụng AI để khám phá một loại thuốc mới”, thì họ đã sử dụng cái gì? Nếu thứ họ đang nói đến là một thứ gì đó hẹp hơn nhiều, có lẽ đó là dự đoán cấu trúc protein, có lẽ đó là một loại mô hình thống kê khác [như trong] mô hình thời tiết. Đó là một loại công nghệ rất khác so với ChatGPT.

Bà có nghĩ rằng một thuật ngữ bao trùm như “trí tuệ nhân tạo” có giá trị không?

Bender: Chà, nó có giá trị đối với những người đang cố gắng bán thứ này—cũng như các công ty công nghệ đang cố gắng nâng cao định giá của họ. Ngoài ra, cách thiết lập tài trợ nghiên cứu hiện nay khiến việc nhận được tài trợ trở nên rất khó khăn nếu bạn không gọi những gì mình đang làm là trí tuệ nhân tạo. Tôi nghĩ đó là một điểm tiêu cực ròng, nhưng đối với bất kỳ cá nhân nào bị mắc kẹt trong hệ thống đó, điều đó có thể có giá trị tại thời điểm hiện tại.

Những hiểu lầm về Stochastic Parrots

Đâu là những hiểu lầm phổ biến nhất về phép ẩn dụ “stochastic parrots”?

Bender: Tôi nghĩ một trong những hiểu lầm lớn nhất là: “Bender nói AI là một con vẹt ngẫu nhiên.” Bài báo đó được viết vào cuối năm 2020. Chúng tôi đang nói về các mô hình ngôn ngữ lớn. Tôi khá chắc rằng từ AI chỉ xuất hiện một lần ở phần cuối cùng, và đó là khi nói về việc nếu bạn định phát triển các hệ thống nhằm thực hiện những việc giống như con người, bạn phải rất cẩn thận để không tạo ra thứ gì đó có thể bị nhầm lẫn với một con người. Việc các hệ thống này được thiết kế để bắt chước cách chúng ta sử dụng ngôn ngữ khiến mọi người rất dễ nhầm lẫn chúng với người thật.

Vì vậy, trong bài báo, gần về cuối, chúng tôi đã khái quát hóa sang AI. Nhưng cụm từ “stochastic parrots” đặc biệt đề cập đến các mô hình ngôn ngữ lớn, và cụm từ “trí tuệ nhân tạo” đề cập đến nhiều thứ khác nhau. Vì vậy, chúng tôi chưa bao giờ khẳng định rằng một công cụ chơi cờ, AlphaFold, một hệ thống gắn nhãn hình ảnh hay một hệ thống dịch máy—bất kỳ thứ nào trong số đó đôi khi được gọi là trí tuệ nhân tạo—đều là những con vẹt ngẫu nhiên. Chúng tôi đặc biệt nói về việc sử dụng các mô hình ngôn ngữ lớn để tạo ra văn bản tổng hợp.

Một hiểu lầm khác là “stochastic parrot” đã bị những người khác tiếp nhận và diễn giải như một sự hạ thấp hoặc một lời xúc phạm. Nó không có ý đó. Những người khác có thể đang sử dụng nó theo cách đó, nhưng đó không phải là ý định của tôi, vì nó chỉ là một mô tả về bản chất thực sự của các hệ thống này. Để coi đó là một lời xúc phạm, người ta cần phải tin rằng mô hình ngôn ngữ lớn là loại thực thể có thể bị xúc phạm (điều mà nó không phải), hoặc tin rằng các mô hình ngôn ngữ lớn này nên được hiểu là những bước tiến tới lý tưởng vĩ đại về trí tuệ nhân tạo mà tôi không hề ủng hộ.

Những gì tôi đã làm ở nhiều nơi—thí nghiệm tư duy về con bạch tuộc, stochastic parrots, cụm từ “máy đùn văn bản tổng hợp”—tất cả đều nhằm cố gắng làm cho những người không làm trong ngành công nghệ ngôn ngữ thấy rõ những gì các hệ thống này thực sự làm, điều đó không giống với việc xúc phạm các hệ thống hay xúc phạm những người yêu thích các hệ thống đó.

LIÊN QUAN: Cuộc tranh luận lớn về Chatbot: Chúng có thực sự hiểu không?

Đối với những độc giả chưa biết, “bài kiểm tra bạch tuộc” xuất phát từ một bài báo năm 2020, trong đó tưởng tượng một con bạch tuộc nhận ra các khuôn mẫu thống kê trong các thông điệp được truyền qua cáp ngầm dưới biển. Với bài kiểm tra bạch tuộc và stochastic parrots, bà đã sử dụng phép ẩn dụ về động vật vài lần rồi. Đó có phải là cố ý không?

Bender: Không, đó không phải là cố ý. Với thí nghiệm tư duy về con bạch tuộc, ban đầu tôi kể câu chuyện về một con cá heo, vì cá heo rõ ràng là loài động vật thông minh. Đồng tác giả của tôi trong bài báo đó, Alexander Koller, nói rằng nên là một con bạch tuộc, vì trước hết, môi trường mà bạch tuộc sống khác biệt hơn nhiều so với nơi con người sống. Điều đó làm cho phép ẩn dụ trở nên sống động hơn, rằng con bạch tuộc chỉ cảm nhận được những xung tín hiệu trong cáp và không có cách nào để nhìn thấy những gì con người đang nhìn thấy. Nhưng hơn nữa, bạch tuộc vốn dĩ cũng hài hước hơn.

Tôi đã xem lại bài báo đó và ngạc nhiên khi thấy thuật ngữ “stochastic parrots” thực sự chỉ xuất hiện hai lần trong văn bản. Tại sao bà lại đưa nó vào tiêu đề?

Bender: Vì chúng tôi thích nó! Và một tiêu đề hấp dẫn là cách tự tiếp thị tốt cho một bài báo học thuật. Lý do nó không xuất hiện nhiều trong bài báo là vì chúng tôi thực sự đang xem xét toàn bộ các rủi ro của việc làm cho các mô hình ngôn ngữ ngày càng lớn hơn. Cụm từ “mô hình ngôn ngữ lớn” cũng không xuất hiện trong bài báo, vì lúc đó mọi người không nói về chúng theo cách đó.

Vì vậy, phần về văn bản tổng hợp, theo một cách nào đó, chúng tôi cảm thấy như đang đi trên băng mỏng, vì vào thời điểm đó, thật khó để tưởng tượng rằng bất kỳ ai lại muốn có văn bản tổng hợp. Phần đó của bài báo trở nên phù hợp hơn nhiều khi OpenAI áp đặt ChatGPT lên thế giới. Khi đó, phần cụ thể này của bài báo trở nên quan trọng. Nhưng chúng tôi cũng nói về tác động môi trường. Chúng tôi nói về cách các hệ thống này sẽ hấp thụ những định kiến từ dữ liệu huấn luyện của chúng. Chúng tôi nói về việc dữ liệu huấn luyện không bao giờ được thu thập một cách tử tế. Có rất nhiều điểm khác nhau trong đó, và các vấn đề về văn bản tổng hợp chỉ là một trong số đó.

Các nhà nghiên cứu tại MIT Media Lab đã tạo ra một robot Stochastic Parrot để phản hồi lại quan sát cho rằng nhiều chatbot có xu hướng nịnh hót hoặc quá dễ dãi. Liệu xu hướng đó có liên quan đến những nguy cơ mà bà đã nêu trong bài báo của mình không?

Bender: Khi chúng tôi viết bài báo đó vào cuối năm 2020, vào thời điểm đó, mọi người không quá hào hứng với văn bản tổng hợp, cũng không phải với chatbot. Chatbot đã tồn tại từ lâu. Chúng ta đã có Eliza của Weizenbaum vào những năm 1960, và sau đó là các hệ thống dịch vụ khách hàng tự động rất khó chịu, vốn đã trở nên trôi chảy hơn nhiều với các mô hình ngôn ngữ lớn, và cũng không kém phần khó chịu.

Vì vậy, đó là tình trạng lúc bấy giờ. OpenAI đã tung ra GPT-2 và GPT-3 để mọi người chơi thử, và bạn có thể khiến chúng đùn ra văn bản tổng hợp, nhưng giao diện trò chuyện vẫn chưa được tích hợp vào đó. Chúng ta cũng chưa thấy các lớp huấn luyện bổ sung dẫn đến hành vi được diễn giải là nịnh hót. Lý do khiến chatbot nói: “Ồ, đó là một ý tưởng hay,” hoặc nếu bạn nói nó sai, nó sẽ nói: “Ồ, tôi rất xin lỗi, bạn đúng,” kiểu phản hồi đó liên quan đến các lớp huấn luyện bổ sung sau quá trình tiền huấn luyện ban đầu.

Bà mong muốn mọi người hiểu thêm điều gì về các mô hình ngôn ngữ?

Bender: Thông điệp mà tôi luôn mang đến mỗi khi có cơ hội là: khi văn bản xuất ra từ một trong những hệ thống này có ý nghĩa, đó là vì chúng ta đang tự tạo ra ý nghĩa cho nó. Điều này cũng có trong bài báo về stochastic parrots. Bất cứ khi nào chúng ta đánh giá loại công nghệ này, chúng ta phải tính đến khả năng tạo nghĩa của chính mình và giữ điều đó trong tầm mắt khi quyết định xem điều gì đang xảy ra với công nghệ. Điều đó thường bị bỏ quên trong các cuộc thảo luận này.

Nếu bây giờ bà thực hiện lại hoặc cập nhật bài báo về stochastic parrot, có điều gì bà muốn thay đổi không?

Bender: Có một hình thức gây hại thực sự lớn mà chúng tôi đã không đề cập trong bài báo, đó là các hành vi lao động bóc lột. Trong đó, tôi bao gồm cả những điều kiện tồi tệ mà nhiều nhân viên xử lý dữ liệu phải đối mặt, và cả sự đánh cắp quy mô lớn các sản phẩm sáng tạo và trí tuệ của con người làm nền tảng cho các hệ thống này. Những vấn đề đó lẽ ra phải được đưa vào bài báo. Không phải là chúng không được biết đến trên thế giới lúc đó, nhưng chúng đã không lọt vào những gì chúng tôi khảo sát, và lẽ ra chúng nên ở đó.

Câu chuyện này đã được cập nhật vào ngày 1 tháng 7 năm 2026 để làm rõ các lĩnh vực nghiên cứu của các tác giả bài báo về stochastic parrots.