Phản biện tư duy 'khiêm tốn' trong tranh luận: Khi nào nên tin vào chuyên gia?

Các lập luận về sự khiêm tốn (modesty arguments) thường cho rằng bạn nên phần lớn hoặc hoàn toàn tuân theo "sự đồng thuận của chuyên gia" hoặc quan điểm của những người cụ thể nào đó, và bạn là ai mà dám bất đồng với họ chứ.

Đã vài năm kể từ khi tôi thực sự giải quyết vấn đề này, nên câu trả lời của tôi là: Bạn chính là bạn. Những người khác nói những điều đó vì nhiều lý do khác nhau, mà phần lớn trong số đó không liên quan đến việc họ thực sự chú tâm và tập trung vào việc tìm kiếm chân lý cụ thể này. Những người đó mắc sai lầm mọi lúc, và thường chịu ảnh hưởng bởi các động cơ và tác động khác, đặc biệt là áp lực xã hội và hiệu ứng lan truyền thông tin (information cascades).

Việc họ thông minh bằng hoặc hơn bạn không miễn trừ họ khỏi điều này, và việc họ có địa vị cao hơn, có bằng cấp hơn hay "ngầu" hơn chắc chắn cũng không miễn trừ họ.

Một người thông minh, có hiểu biết khi chân thành nghĩ [X] có thể dễ dàng không còn là bằng chứng cho [X] nữa, một khi bạn đã suy nghĩ đủ sâu sắc về cả [X] lẫn lý do tại sao người đó lại nghĩ [X].

Hãy tự suy nghĩ đi, đồ ngốc.

Hoặc như tôi đã từng nói: Bạn có quyền được suy nghĩ, và cũng có nghĩa vụ đạo đức phải làm điều đó.

Bài viết này đề cập đến việc Eliezer Yudkowsky đưa ra một tuyên bố hẹp hơn tuyên bố của tôi, về việc không đánh đồng địa vị với sự thông minh và thẩm quyền nhận thức (epistemic authority), cùng với việc tôi ghi lại cuộc thảo luận liên quan đã diễn ra trên Twitter.

Điều này liên quan đến một tương tác lịch sử cụ thể, nhưng điều quan trọng là quan điểm chung.

Sau đó, tôi mở rộng ngắn gọn điều này sang các tuyên bố rộng hơn của mình.

Tôi nghĩ, trong cuộc trao đổi mà tôi sắp trích dẫn, Rob Bensinger đang cố gắng diễn giải quá mức nhưng về cơ bản là đúng.

Các lập luận về sự khiêm tốn thường là như vậy, cố gắng đánh đồng "motte" và "bailey" như thường lệ:

Motte (Pháo đài): Bạn nên coi ý kiến và lập luận của người khác là thông tin có ý nghĩa, và cân nhắc nó như bằng chứng kiểu Bayesian.

Bailey (Sân ngoài): Bạn không thể cân nhắc quan điểm nội tại của mình một cách hợp lý hơn quan điểm của người khác, hoặc bất đồng nhiều với sự đồng thuận của chuyên gia, hoặc bất kỳ ai được coi là người nắm quyền về nhận thức ở đây, trừ khi bạn có thể trích dẫn thông tin cụ thể mà bạn có nhưng họ không thể tiếp cận. Nếu bạn làm vậy, bạn đang tự nhận mình có địa vị cao và cho rằng họ tương đối ngu ngốc.

Tôi khẳng định "Motte" của sự khiêm tốn.

Tôi cực lực phản đối "Bailey" của sự khiêm tốn.

Hãy chú ý đoạn in đậm (tôi tự in đậm) trong cuộc trao đổi dưới đây:

Eliezer Yudkowsky: Mọi người dường như cũng không nhận ra rằng "ngang hàng về nhận thức" (epistemic peer) là một thuật ngữ chuyên môn trong nhận thức luận dành cho những người ấn tượng đến mức bạn sẽ nhượng bộ họ trong lĩnh vực của mình mà không cần nghe lập luận. Nó không chỉ có nghĩa là "đồng nghiệp mà bạn tôn trọng".

Nó không có nghĩa là bạn nên phần lớn hoặc hoàn toàn nhượng bộ một người như vậy. Điều đó sẽ ngụ ý họ là một "bậc thầy về nhận thức" (epistemic superior), người mà ý kiến của họ có trọng lượng lớn hơn ý kiến của bạn, hoặc thậm chí là một "chuyên gia" hay "guru" mà bạn nên hoàn toàn tuân theo trừ những trường hợp đặc biệt.

Ngang hàng về nhận thức có nghĩa là, nếu cả hai bạn đều có quyền truy cập vào cùng một thông tin, và họ chưa giải thích cho bạn lý do của họ, bạn không nên cho rằng một trong hai người giỏi hơn người kia, vì vậy bạn có lẽ nên lấy hai ý kiến chưa điều chỉnh và chia đôi sự khác biệt.

Một khi họ giải thích lý do, bạn nên đánh giá lý do của họ. Đôi khi họ sẽ có lý lẽ tốt hơn bạn, đôi khi lại tệ hơn. Hãy nhớ định luật Bảo toàn Bằng chứng Kỳ vọng (Conservation of Expected Evidence). Nếu bạn có thể tiến gần đến niềm tin của họ nhưng không thể rời xa nó, bạn nên điều chỉnh niềm tin của mình ngay bây giờ.

Tôi tái hiện cuộc thảo luận này chủ yếu vì tôi nghĩ nó có những điều giá trị về cách thực hiện và cách không nên thực hiện nhận thức luận, chứ không phải vì câu chuyện gốc nói về Leopold. Quả thực, sau này Leopold đã khôn ngoan rút lại quan điểm khái niệm cốt lõi đó dưới hình thức tạo ra quỹ đầu cơ Situational Awareness, bất kể liệu ông ấy có đồng ý rằng hai điều đó là cùng một nguyên tắc hay không.

Aashish Reddy: Eliezer khi gặp Leopold, một câu chuyện mà một số bạn sẽ thấy thú vị:

Eliezer Yudkowsky (trên LW): Tôi nhớ lần đầu tiên gặp Leopold Aschenbrenner. Anh ta chất vấn tôi về lý do tại sao các mốc thời gian (timelines) của tôi không dài hơn và cuối cùng nói: "Tại sao anh không cập nhật chút nào theo hướng của tất cả những người thông minh đang nói về các mốc thời gian dài hơn?" (tức là: học thuyết OpenPhil năm 2050), "Đến lúc này thì anh thậm chí còn chẳng buồn giả vờ là mình hợp lý nữa."

Tôi hơi do dự một chút vì biết rằng trả lời thành thật sẽ không có kết cục tốt đẹp, nhưng cũng chẳng còn kết cục nào tốt hơn sau đó; rồi tôi nói thẳng với anh ta rằng tôi không coi những người đó là ngang hàng về nhận thức với mình.

Tôi thường không giỏi đọc nét mặt, nhưng chà, cái vẻ khinh bỉ và coi thường hiện rõ trên mặt anh ta; trước khi anh ta quay lưng bỏ đi mà không nói thêm lời nào, gạt bỏ tôi khỏi sự cân nhắc thêm. Tôi sẽ không bao giờ quên khoảnh khắc đó -- vì đó là một khuôn mặt "lớn tiếng" đến mức tôi thực sự có thể đọc được nó, chứ tất nhiên không phải vì nó có ảnh hưởng gì đến các ước tính của tôi.

Eliezer Yudkowsky:...và không có bình luận nào về việc, nhìn lại thì Leopold có vẻ đã hoàn toàn sai khi cho rằng tôi nên nhượng bộ những người rất đáng kính của anh ta về các mốc thời gian, và bài "Biological Anchoring: The Trick That Never Works" của tôi đã đúng ~100%? Tuyệt. Các bạn cứ làm những gì các bạn muốn.

Một sự ám ảnh về "vibe" (cảm nhận) lớn đến mức mọi việc đánh giá kết quả dự đoán đều trở nên thấp kém. Làm sao bạn có thể đứng cao hơn hai người nếu bạn cũng nhận thấy rằng dự đoán của họ không sai lệch như nhau? Bạn không thể. Vì vậy, bạn mù quáng trước chính các kết quả đó.

Mọi người dường như cũng không nhận ra rằng "ngang hàng về nhận thức" là một thuật ngữ chuyên môn trong nhận thức luận dành cho những người ấn tượng đến mức bạn sẽ nhượng bộ họ trong lĩnh vực của mình mà không cần nghe lập luận. Nó không chỉ có nghĩa là "đồng nghiệp mà bạn tôn trọng".

Oliver Habryka: Ý tôi là, tôi nghĩ cách dùng thuật ngữ theo nghĩa thông thường cũng ổn mà? Kiểu như, đối với tôi, việc Eliezer không coi họ là ngang hàng về nhận thức theo nghĩa thông thường của từ này là điều đúng đắn và rõ ràng (từ những điều khác mà Eliezer đã nói).

Rob Bensinger: Có vẻ mơ hồ và phụ thuộc vào các chi tiết diễn giải. Và có vẻ là một suy luận hơn là một quan sát, một suy luận đưa chúng ta ra xa hơn khỏi cốt lõi của sự bất đồng với Leopold. (Và nếu chúng ta dễ dàng đọc "ngang hàng về nhận thức" theo cách đó, chúng ta sẽ mất đi một khái niệm rất hữu ích.)

Oliver Habryka: Ý tôi là, nếu phản ứng của mọi người là "sự thiếu tôn trọng rộng rãi đối với nhận thức luận của Leopold bởi Eliezer" thì tôi nghĩ phản ứng đó có vẻ phù hợp. Tôi nghĩ rõ ràng là Eliezer không tôn trọng nhiều về nhận thức luận của Leopold (và để rõ ràng, tôi cũng vậy).

Cố gắng viện dẫn một sự hiểu lầm về thuật ngữ "ngang hàng về nhận thức" cảm giác như một sự xao nhãng khi đó là cốt lõi của sự bất đồng.

Rob Bensinger: "Motte" của Leopold là "bạn nên đối xử với đồng nghiệp bằng sự tôn trọng và lịch sự tối thiểu", và "bailey" của anh ta là "bạn không nên coi trọng quan điểm nội tại của mình cao hơn của Cotra, Carlsmith, v.v.". Việc nhún vai trước sự khác biệt này cho phép anh ta tuyên bố chiến thắng hoàn toàn.

Oliver Habryka: Có phải... vậy không? Tôi bối rối quá. Leopold có đang tham gia cuộc trò chuyện này không? Ý tôi là, đó là "motte" của anh ta với Eliezer sao? Tôi không nghĩ vậy, hoặc ít nhất nó không khớp với mô hình của tôi về anh ta, hay cách anh ta thể hiện bản thân.

Rob Bensinger: Đây có vẻ là một mô tả khá chung/phổ biến về cách nhận thức luận khiêm tốn hoạt động? Bạn đánh đồng hệ thống phân cấp xã hội với hệ thống phân cấp nhận thức; bạn đánh đồng các chuẩn mực về sự đồng nghiệp với các chuẩn mực về sự nhượng bộ, để rồi "sự kiêu ngạo" mang giá trị đạo đức của việc "là một kẻ khốn nạn".

... Và không chỉ mang giá trị của việc "sai lầm về mặt thực tế đối với trình độ chuyên môn của bên thứ ba nào đó".

Đó là nơi mà sự phẫn nộ và sức mạnh trong hành động của Leopold xuất phát, nếu tâm trí của Leopold khá điển hình ở khía cạnh này. "Sao anh dám THÔ LỖ NHƯ VẬY", chứ không phải "... NGHĨ 2+2=5".

Oliver Habryka: Hừm, tôi đoán điều đó hoàn toàn không khớp với mô hình của tôi về Leopold. Leopold gạt bỏ hầu hết mọi người!