Tin ngành
Tình dục, AI và ngày tận thế: Giải mã mạng lưới 'Chủ nghĩa duy lý' thao túng an toàn AI tại Mỹ
(giờ Việt Nam)
Tóm tắt AI
Bài viết phân tích cách cộng đồng 'Chủ nghĩa duy lý' (Rationalist) thâm nhập sâu vào các phòng thí nghiệm AI và chính phủ Mỹ thông qua mạng lưới quan hệ cá nhân, tài chính và tư tưởng cực đoan, bắt nguồn từ vụ từ chức gây tranh cãi tại Anthropic.
Bản dịch AI

Nếu gần đây bạn bắt đầu cảm thấy lo lắng về sự an toàn của AI và ngày tận thế, thì có lẽ nguyên nhân xuất phát từ một lá đơn từ chức.
Vào ngày 8 tháng 9 năm 2026, một nhà nghiên cứu tên là Jacob Coxon đã rời bỏ Anthropic, một trong hai phòng thí nghiệm AI hàng đầu tại Mỹ, nơi luôn cố gắng xây dựng hình ảnh là đơn vị cẩn trọng hơn so với các đối thủ cạnh tranh. Anh đã dành ba năm trước đó để thực hiện nghiên cứu tiền huấn luyện (pretraining) tại OpenAI và sau đó là tại Anthropic – công việc cốt lõi giúp các mô hình lớn trở nên mạnh mẽ. Trong lá đơn từ biệt, anh viết: “Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Đây không phải là một chiêu trò tiếp thị.” Anh rời đi hai tháng trước khi cổ phiếu của mình được quyền sở hữu (vested) và từ bỏ tất cả. Bài đăng đó đã đạt hơn một trăm triệu lượt xem chỉ trong vòng một ngày.
Đáng ngạc nhiên là các đồng nghiệp của anh không vội vàng bác bỏ điều đó. Evan Hubinger, người đứng đầu bộ phận khoa học căn chỉnh (alignment science) tại Anthropic, đã đăng bài chỉ vài giờ sau đó khẳng định Coxon nói đúng, rằng họ thực sự tin tưởng AI có thể tiêu diệt toàn bộ nhân loại, và xác suất cá nhân của ông là hơn một trên mười trong vòng một thập kỷ. Hơn hai chục nghị sĩ Quốc hội tuyên bố cần phải hành động. Elon Musk, người đang xây dựng một phòng thí nghiệm tiên phong của riêng mình, gọi toàn bộ sự việc là một chiến dịch tâm lý (psy-op), và các hãng tin chính thống đã đưa tin một cách đầy kịch tính về sự hoảng loạn theo sau đó.
Để đánh giá thực tế mức độ nghiêm trọng của lời cảnh báo này, chúng ta cần hiểu rõ những người đang đưa ra nó. Những tiếng nói lớn nhất cảnh báo về ngày tận thế xuất phát từ một tiểu văn hóa internet cụ thể của những người 25 tuổi, những người tự coi mình là cộng đồng có tư duy sáng suốt hơn tất cả mọi người. Bên ngoài Thung lũng Silicon, tiểu văn hóa này trông có vẻ mơ hồ, giống như một nhóm người hâm mộ với sở thích văn học kỳ quặc. Nhưng bên trong ngành công nghệ thì hoàn toàn ngược lại. Các cây viết của họ có thể tạo nên hoặc hủy hoại danh tiếng của bất kỳ ai. Các cựu thành viên của họ đang làm việc tại các phòng thí nghiệm, các viện an toàn và các tổ chức từ thiện – những nơi quyết định ý nghĩa của cụm từ “an toàn AI”. Các cuộc tranh luận, hôn nhân, thù hận và xu hướng tình dục của họ đan xen chặt chẽ vào cấu trúc của các tổ chức hiện đang yêu cầu công chúng đặt niềm tin vào tương lai của nhân loại.
Mười tháng trước khi Coxon từ chức, vào tháng 12 năm 2025, gần năm trăm người đã tập trung tại một phòng hòa nhạc ở Berkeley cho một buổi lễ về sự kết thúc có thể xảy ra của nhân loại. Có một ban nhạc sống và một dàn hợp xướng 28 người. Có những bài đọc mang tính nghi lễ. Khi các bài hát và bài phát biểu đưa căn phòng từ quá khứ xa xôi của nhân loại đến tương lai bất định, những chiếc đèn chùm lần lượt mờ dần. Tham dự buổi lễ có rất nhiều nhân viên từ các tổ chức đang cố gắng xây dựng hoặc kiểm soát trí tuệ nhân tạo. Tại thời điểm đen tối nhất, người tổ chức ngồi ở mép sân khấu, giọng lạc đi và nói với cả khán phòng: “Các bạn à… tôi không nghĩ chúng ta sẽ vượt qua được đâu.”
Người tổ chức đó là Raymond Arnold, một nhà phát triển web, thiết kế game, nhạc sĩ và là người xây dựng lâu năm các thể chế cộng đồng theo chủ nghĩa duy lý (rationalist). Lớn lên giữa Công giáo và chủ nghĩa vô thần, Arnold khám phá ra phong trào duy lý khi còn là thanh niên và nhận thấy nó “mở rộng một cách triệt để” khả năng cảm nhận về sự thiêng liêng của mình. Năm 2011, anh mời mười chín người bạn đến một căn hộ ở New York, được trang trí bằng đèn dầu, quả cầu plasma và kiếm ánh sáng để thử nghiệm một ngày lễ cho thế giới quan mới của họ. Họ hát về những đống lửa trại mùa đông đầu tiên và các công nghệ định hình tương lai nhân loại, thổi tắt ngọn nến cuối cùng và ngồi cùng nhau trong bóng tối. Hai năm sau, Arnold biến thử nghiệm này thành một chương trình công cộng có tên là Brighter Than Today. Các phiên bản sau đó nhanh chóng lan rộng từ New York và vùng Vịnh đến các thành phố trên khắp Bắc Mỹ, châu Âu và hơn thế nữa.
Ban đầu, Arnold hình dung Secular Solstice (Ngày Đông chí Thế tục) như một ngày lễ nhân văn rộng rãi, nhưng nó đã trở thành ngày lễ chính trong lịch của những người duy lý. Điều này không hoàn toàn ngẫu nhiên. Anh đã tổ chức cộng đồng từ năm 2011, hiện giúp điều hành cả LessWrong và Lighthaven—khuôn viên hội nghị tại Berkeley đóng vai trò là trung tâm vật lý của cộng đồng—và đã mô tả vai trò của mình một cách nghiêm túc là “vị linh mục của ngôi làng”. Solstice là nỗ lực của anh nhằm xây dựng công nghệ văn hóa mà một phong trào bền vững cần có: một hệ thống các bài hát và bài đọc, một tiến trình nghi lễ từ ánh sáng vào bóng tối và ngược lại, cùng một dịp hàng năm để những tín đồ phân tán khắp nơi có thể tụ họp trong cùng một căn phòng.
Đến năm 2025, Arnold ước tính xác suất xảy ra thảm họa AI là hơn 50% và lo ngại rằng nghi lễ của chính mình không còn đủ khả năng để suy ngẫm về sự diệt vong theo cách lành mạnh về mặt tâm lý. Anh phần lớn đã nhường việc sản xuất Solstice cho những người tổ chức khác, nhưng đã quay lại để định hình cái mà anh nghĩ có thể là “Solstice cuối cùng”, hoàn thiện với một buổi tụ họp chăm sóc tinh thần quanh hố lửa. Buổi tối đó cung cấp mọi thứ mà các tôn giáo truyền thống từng mang lại: tình bằng hữu, nghi lễ, một câu chuyện chung về vị trí của nhân loại trong vũ trụ và một nơi để ngồi xuống với nhận thức rằng bạn sẽ chết. Có thể là sớm thôi. Có thể là vì thứ gì đó mà bạn bè của bạn đã tạo ra.
Kết nối các mối quan hệ từ căn phòng đó, bạn sẽ đi qua một vùng lãnh thổ thực sự kỳ lạ. Một bộ fanfic Harry Potter được dùng làm kênh tuyển dụng. Các hội thảo tâm lý mà những người tham gia cũ mô tả là mang tính cưỡng ép. Một chương trình nhân giống những đứa trẻ thông minh hơn, được quảng bá bởi một viện AI. Một nhân viên tình dục từ Idaho trở thành một trong những cây viết được đọc nhiều nhất của tiểu văn hóa này và hiện đang điều hành một chương trình tuyên truyền về thảm họa AI cùng với Grimes, bạn gái cũ của Elon Musk. Một giáo phái ly khai đã bỏ trốn lên các tàu kéo và các thành viên của họ có liên quan đến sáu cái chết. Và một blogger muốn xóa bỏ nền dân chủ, tìm được sự ủng hộ của nhiều tỷ phú và chứng kiến những ý tưởng của mình thành hiện thực ngay tại văn phòng phó tổng thống.
Tôi biết rằng nếu bạn không thường xuyên lặn lội trên internet như tôi, đoạn văn trên nghe có vẻ hoàn toàn điên rồ. Tuy nhiên, mọi chi tiết trong đó đều được ghi chép kỹ lưỡng bởi vô số nguồn tin. Những người trong câu chuyện này không phải là một hội kín phối hợp với nhau trong bữa tối. Họ là một bối cảnh xã hội: các nhóm bạn bè chồng chéo, các mối quan hệ tài trợ, các mối quan hệ tình cảm và lãng mạn, tất cả đều được đan cài vào các tổ chức đang yêu cầu bạn tin tưởng họ về vấn đề quản lý AI.
Một trong nhiều thiếu sót đáng tiếc của truyền thông chính thống là việc đưa tin một cách đáng tin cậy về những điều này quá phi lý đến mức bạn không thể mong đợi độc giả coi trọng nó. Tuy nhiên, tôi sẽ cố gắng cung cấp một bản tường trình đầy đủ về việc sự trượt dài hiện tại của chúng ta vào chủ nghĩa tân phát xít, sự độc tài thần quyền và ngày tận thế được dự báo, bắt nguồn sâu sắc từ lịch sử của tiểu văn hóa này.
Vậy, hãy quay lại năm hai nghìn.
Nhà tiên tri
Chúng ta sẽ bắt đầu với Eliezer Yudkowsky, người đã phát triển một ý thức mạnh mẽ về tầm quan trọng lịch sử của bản thân nhiều năm trước khi bất kỳ công ty AI đương đại nào tồn tại.
Yudkowsky sinh năm 1979 và lớn lên trong một gia đình Do Thái Chính thống hiện đại. Theo lời kể của chính mình, anh đã từ bỏ toàn bộ hệ thống giáo dục công lập từ lớp hai, năm anh phát hiện ra giáo viên toán của mình không biết logarit là gì. Anh đọc cuốn QED của Feynman năm chín tuổi và nói rằng mình hiểu hầu hết nội dung. Anh coi thời gian ở trường là mười năm lãng phí, bỏ học vào khoảng lớp tám, một phần vì lý do sức khỏe. Không trung học, không đại học, không có bất kỳ sự đào tạo chính quy nào trong lĩnh vực AI.
Năm mười một tuổi, một người ông họ đưa cho anh cuốn Great Mambo Chicken and the Transhuman Condition, một biên niên sử năm 1990 về những người theo chủ nghĩa đông lạnh, những kẻ lập dị về không gian và những người đang lên kế hoạch tải tâm trí của họ vào máy tính. Tóm tắt của chính anh về cuộc gặp gỡ đó rất ngắn gọn: sau đó anh biết điều gì là quan trọng, và sự nghiệp của anh sẽ gắn liền với nó. Cuối tuổi thiếu niên, anh tìm thấy những người theo chủ nghĩa siêu nhân (transhumanists) trên mạng. Đến năm 2000, ở tuổi hai mươi, anh đã đồng sáng lập Viện Singularity về Trí tuệ Nhân tạo, và trang web của anh đã cung cấp trọn bộ: một bài luận về Singularity, một tài liệu phác thảo cách bạn có thể thực sự lập trình một AI siêu nhân, một kế hoạch đưa nhân loại từ đây đến đó và một cuốn tự truyện giải thích những phẩm chất độc nhất của tác giả.
Cuốn tự truyện của anh thậm chí mở đầu bằng một câu chuyện ngụ ngôn: khi còn nhỏ, anh đã ném khẩu súng nước yêu thích của mình từ ban công tầng ba thay vì chấp nhận việc mẹ mình có thể cho người khác mượn món đồ của mình, và cảm thấy thỏa mãn khi nghe thấy nó đập xuống mặt đường. Anh tiếp tục mô tả mình là một chuyên gia về sự chuyển đổi công nghệ của loài người, một trong số ít những người còn sống có đủ tư cách để dẫn dắt nó. Anh đồng nhất mình với Buffy the Vampire Slayer, người duy nhất nhìn thấy nguy hiểm một cách rõ ràng và phải hành động trong khi những người khác vẫn tiếp tục cuộc sống bình thường.
Trong khi các ý tưởng kỹ thuật của anh thay đổi rất nhiều trong 25 năm tiếp theo, cảm giác mình là người duy nhất nhìn thấy sự diệt vong sắp tới của AI thì không.
Viện Singularity vẫn tồn tại, sau đó được đổi tên thành Viện Nghiên cứu Trí tuệ Máy móc (MIRI), và nỗi lo ban đầu của nó đã trở nên đúng đắn hơn hầu hết các nỗi lo khác: một trí tuệ nhân tạo đủ năng lực có thể theo đuổi các mục tiêu không tương thích với sự tồn tại của con người, và công việc là làm cho nó an toàn trước khi ai đó làm cho nó trở nên quá mạnh mẽ. Mặc dù nghe có vẻ hợp lý, nhưng vấn đề nằm ở tất cả những thứ phát triển dựa trên nó. Năm 2025, cuốn sách mà anh đồng tác giả với giám đốc điều hành của MIRI, Nate Soares, về lý do tại sao AI siêu nhân sẽ giết chết tất cả chúng ta, đã lọt vào danh sách bán chạy nhất của New York Times.
Trong cuối những năm 2000, Yudkowsky đã phát triển một dự án thứ hai: dạy mọi người cách tư duy. Những bài viết phong phú của anh trên Overcoming Bias, blog mà anh chia sẻ với nhà kinh tế học Robin Hanson, đã trở thành nguyên liệu thô cho một tập hợp các bài luận mà độc giả của anh gọi là Sequences. Năm 2009, LessWrong ra mắt như một căn cứ địa của cộng đồng. Viện mô tả trang web này là một kênh tuyển dụng thành công.
Bạn có thể thấy sức hấp dẫn của nó. Đây là một lời giải thích thống nhất cho lý do tại sao mọi người tranh luận kém, tin vào những điều vô nghĩa dễ chịu, trì hoãn và nhầm lẫn sự chấp thuận xã hội với sự thật. Và đây là một chương trình: nhận ra các thiên kiến của bạn, sửa đổi niềm tin của bạn, làm tốt hơn. Nếu bạn thông minh, bất mãn và quen với việc bị bảo rằng bạn đặt quá nhiều câu hỏi, thì đây là một lời mời rất thuyết phục. Nó đã thành công với rất nhiều người.
Và hãy chú ý xem lời mời này được hiệu chỉnh cho ai, vì cộng đồng đã tự nói về chính mình, rất dài dòng, trong các cuộc khảo sát của riêng họ. Cuộc điều tra dân số LessWrong cho thấy một cộng đồng 87% là nam giới, với các chẩn đoán hoặc tự chẩn đoán về phổ tự kỷ ở gần một trong năm người trả lời và trầm cảm ở gần một nửa; một cộng đồng liên quan sau đó có tên là Slate Star Codex đã thực hiện các cuộc khảo sát của riêng mình, thu hút hàng ngàn người trả lời, với hơn một nửa làm việc trong lĩnh vực lập trình, kỹ thuật, toán học hoặc vật lý. Tiểu sử mà nó phác thảo rất nhất quán: một nhóm các cậu bé được xác định là xuất chúng từ năm tám tuổi, được bảo rằng họ thông minh hơn tất cả mọi người, bị bỏ mặc với máy tính khi gặp khó khăn trong tương tác xã hội và bước vào tuổi trưởng thành với sự già dặn trước tuổi, bị hiểu lầm về mặt xã hội và chưa bao giờ ở trong một căn phòng mà tất cả những người khác đều hiểu họ. Thung lũng Silicon chắc chắn thu hút những người này. Chủ nghĩa duy lý là nơi họ tìm thấy ý nghĩa và cộng đồng của mình.
Những gì phong trào mang lại cho người đó là sự thuộc về kết hợp với sự củng cố và khẳng định vững chắc. Một nhóm đồng đẳng gồm những cá nhân có năng khiếu tương tự. Một triết lý và phương ngữ cuối cùng cũng làm cho thế giới xã hội trở nên dễ hiểu. Và, điều gây nghiện nhất, một sự thăng tiến: bạn không phải là người ghét bỏ nhân loại, quần chúng thực sự đang chạy phần sụn bị lỗi; bạn không phải là kẻ kiêu ngạo, bạn thực sự là một anh hùng trong cuộc chiến vì loài người. Đó là chương trình dành cho người có năng khiếu được hoàn thiện: các buổi học đặc biệt cho những đứa trẻ đặc biệt, sách bài tập (Sequences, Harry Potter and the Methods of Rationality), các buổi lễ cuối năm (Solstice) và một người trưởng thành cuối cùng cũng tin tưởng vào bạn. Hội chứng nhân vật chính không còn là một khiếm khuyết tính cách vào ngày bạn tham gia một tôn giáo mà cốt truyện của nó đặt bạn vào vị trí dẫn đầu.
Nó cũng chứa đựng một cái bẫy – một cộng đồng được tổ chức xung quanh việc vượt qua sự phi lý của con người bắt đầu coi tư cách thành viên là bằng chứng cho thấy các thành viên của nó đã vượt qua được điều đó. Trở thành một người duy lý biến thành một chứng chỉ cho sự phán đoán vượt trội, và sự phán đoán vượt trội là tiền tệ xã hội chính của cộng đồng.
Phúc âm theo Harry Potter
Năm 2010, Yudkowsky bắt đầu xuất bản Harry Potter and the Methods of Rationality, một bộ fanfic vũ trụ thay thế rộng lớn, trong đó Harry là một nhà duy lý khoa học già dặn trước tuổi, đối mặt với phép thuật bằng sự tò mò và niềm khao khát mãnh liệt để giải thích tại sao tất cả những người khác đều sai. Nó kéo dài trong năm năm và trở nên vô cùng phổ biến bên ngoài cộng đồng cũng như bên trong nó. Sequences quá khô khan đối với nhiều người, nhưng HPMOR đã trở thành một lối vào dễ dàng cho tư duy duy lý. Hơn nữa, nó thu hút đối tượng mục tiêu bằng cách giơ một tấm gương: Harry là chân dung tự họa của nhóm nhân khẩu học mục tiêu ở tuổi mười một – được xác định là có năng khiếu, đúng về mọi thứ và liên tục bị bao quanh bởi những kẻ kém cỏi.
Ý tưởng quan trọng nhất của cuốn tiểu thuyết là “trách nhiệm anh hùng”. Harry giải thích rằng dù chuyện gì xảy ra, cuối cùng đó là lỗi của bạn nếu thảm họa xảy ra, bởi vì bạn lẽ ra đã có thể ngăn chặn nó. Bạn không thể trốn tránh sau việc tuân theo các quy tắc, hoặc sau kỳ vọng rằng người khác đang xử lý nó. Thế giới là trách nhiệm của bạn, tất cả, cá nhân bạn. Hermione, nhân vật gần giống nhất với một người bình thường tử tế, phản đối rằng điều này nghe có vẻ không để lại nhiều chỗ cho quyền tự quyết của những người khác. Câu chuyện không bao giờ thực sự trả lời những phản đối của cô một cách thỏa đáng.
Đáng kinh ngạc là sự phổ biến của bộ fanfic này vượt xa lượng độc giả mà bạn mong đợi cho một tác phẩm ngách như vậy. Đến khi hoàn thành vào ngày Pi 2015, bộ fanfic dài 122 chương và 661.619 từ, dài hơn cả Chiến tranh và Hòa bình. Nó đã thu hút hơn ba mươi bảy nghìn đánh giá trên trang web fanfiction chính, một con số điên rồ cho thể loại này, hàng chục nghìn lượt yêu thích, một cuốn sách nói do người hâm mộ thực hiện, một trang TV Tropes lớn bằng một vùng ngoại ô nhỏ và các bản dịch sang một danh sách dài các ngôn ngữ, đứng đầu là tiếng Nga. Một blogger pháp lý của Washington Post đã gọi nó, với vẻ mặt nghiêm túc, là một trong những cuốn sách yêu thích nhất của ông được viết trong thiên niên kỷ này. Báo chí đáng kính hầu như không ghi nhận bất kỳ điều nào trong số này, bởi vì báo chí đáng kính không đọc fanfiction. Tuy nhiên, một thế hệ kỹ sư tương lai thì có.
Chức năng thực sự của cuốn sách đã tự công bố ở phần cuối. Cho phần kết, Yudkowsky đã đăng một chương có tiêu đề “Final Exam”, trong đó Harry bị mắc kẹt trong một tình huống dường như vô vọng, và chính chương đó đã đưa ra các điều khoản và thời hạn: nếu độc giả đăng một giải pháp khả thi trước ngày 3 tháng 3 năm 2015, câu chuyện sẽ tiếp tục; nếu không, theo lời tác giả, bạn sẽ nhận được một cái kết ngắn hơn và buồn hơn. Cộng đồng người hâm mộ đã gửi hơn 700.000 từ các giải pháp đề xuất trong hai ngày rưỡi, sau đó tự tổ chức một lực lượng đặc nhiệm để phân loại các bài nộp và loại bỏ các ý tưởng trùng lặp, và giải pháp được đưa ra đến từ chính đám đông. Hãy đọc lại chuỗi đó như một bài tập tổ chức. Người sáng lập một viện nghiên cứu an toàn AI đã tuyển dụng một lực lượng lao động tình nguyện phân tán gồm hàng ngàn người, giao cho nó một bài toán tối ưu hóa, áp đặt thời hạn với một kết quả bất lợi bị đe dọa và thu hoạch kết quả đầu ra vào cuốn sách của mình. Nó đã hiệu quả. Độc giả không chỉ đọc về phương pháp; họ đã thực hiện nó, ở quy mô lớn, theo lệnh. Dù bộ fanfic là gì đi nữa, nó là một minh chứng hoạt động về những gì tác giả của nó có thể thúc đẩy một đám đông những người lạ thông minh làm bằng cách cấu trúc các ưu đãi một cách chính xác. Đáng chú ý là câu đó cũng mô tả thập kỷ tiếp theo của ngành công nghiệp AI, có lẽ không phải là sự trùng hợp ngẫu nhiên.
Bên ngoài câu chuyện, việc xây dựng phong trào của Yudkowsky là rõ ràng. Các ghi chú của tác giả Yudkowsky đã thúc đẩy việc gây quỹ cho Trung tâm Tư duy Ứng dụng (CFAR), một tổ chức phi lợi nhuận sẽ sớm dạy các kỹ thuật của Sequences tại các hội thảo trực tiếp. Phần kết của bộ fanfic vào năm 2015 là dịp cho các bữa tiệc ăn mừng được tổ chức ở hàng chục thành phố. Hư cấu, gây quỹ, đào tạo và một cộng đồng quốc tế, tất cả được gói gọn lại với nhau. Một hồ sơ trên VICE từ năm 2015 đã nhận thấy rằng toàn bộ bộ máy này bắt đầu giống một hệ thống niềm tin hơn là một tác phẩm hư cấu phổ biến.
Mặc dù gọi cuốn tiểu thuyết là một cuốn sách thánh sẽ là nói quá, nhưng chúng ta cũng sẽ bỏ lỡ chức năng của nó khi gọi nó là giải trí. Nó cung cấp một từ vựng chung, các nhân vật mẫu mực và một lý thuyết kịch tính về những gì một người thông minh nợ thế giới để chuyển đổi sự đồng ý với các lập luận của nó thành sự đồng nhất với một sứ mệnh. Giống như cách L. Ron Hubbard điều hướng quá trình chuyển đổi từ nhà văn khoa học viễn tưởng sang thủ lĩnh giáo phái, Yudkowsky đã vạch ra một con đường tương tự.
Nhân tiện: một số người duy lý cũng cố tình xây dựng các nghi lễ cho giáo phái đang phát triển. Một bản tường trình năm 2011 về một buổi Solstice ở New York mô tả các bài hát cộng đồng, các bài đọc và phụng vụ được chuyển thể từ Sequences, với Yudkowsky bình luận đầy tán thưởng. Nhiều năm sau, Arnold đã viết công khai về cách điều hành một buổi Solstice khi bản thân anh gán xác suất hơn 50% cho một thảm họa AI.
Một phong trào có thể từ chối Chúa nhưng vẫn phát triển kinh thánh, nghi lễ và một mối quan hệ cá nhân đầy đòi hỏi với ngày tận thế. Hóa ra, sự thế tục hóa không tự động loại bỏ bản năng con người đối với tôn giáo và phụng vụ, nó chỉ tái sử dụng sự thờ phượng của chúng.
Các tông đồ của Yudkowsky
Yudkowsky, theo tính khí, là một nhà tiên tri, và các nhà tiên tri là những người đồng hành đầy đòi hỏi. Động cơ tăng trưởng thực sự của cộng đồng là một người dễ mến hơn nhiều: một bác sĩ tâm thần và blogger tên là Scott Alexander.
Alexander không phải là một người ngoài cuộc đi lạc vào sau khi trở nên nổi tiếng. Theo lời kể của chính mình, anh đã dành nhiều năm đắm mình trong Overcoming Bias và LessWrong và thấy tài liệu này mang tính mặc khải mặc dù đã học triết học. Blog Slate Star Codex của anh, ra mắt năm 2013, phát triển trực tiếp từ sự tham gia đó. Và đó là một công cụ rất khác biệt. Trong khi Yudkowsky độc đoán, Alexander lại hài hước, lan man, thông cảm và tỏ ra cẩn trọng trong việc tiếp nhận các phản đối. Anh viết về y học, thống kê, khoa học viễn tưởng và hành vi khó hiểu của con người, và độc giả của anh bao gồm Sam Altman, Paul Graham và một phần lớn tầng lớp chuyên nghiệp của Thung lũng Silicon. New York Times cuối cùng đã gọi blog này là một không gian an toàn cho thế giới công nghệ.
Điều này quan trọng vì Alexander là người phiên dịch. Bạn không cần phải bước vào thế giới của chủ nghĩa duy lý thông qua một dự đoán về sự tuyệt chủng hay fanfiction Harry Potter. Bạn có thể đến thông qua một bài luận thú vị về thuốc chống trầm cảm, khám phá một cộng đồng có các lập luận dường như đặc biệt cẩn thận và các thành viên dường như đặc biệt thông minh, và chỉ sau đó mới tìm ra các lập luận cẩn thận đó đang tranh luận cẩn thận về điều gì, và dần dần hòa nhập vào cộng đồng.
Bạn cũng có thể đến thông qua Curtis Yarvin.
Viết dưới bút danh Mencius Moldbug, Yarvin bắt đầu xuất bản blog Unqualified Reservations vào năm 2007. Mô tả ngắn gọn là một lập trình viên viết các bài luận chính trị dài. Dự án này nham hiểm hơn nhiều so với mô tả đó: Yarvin đã trở thành một trí thức sáng lập của phe cực hữu độc tài, và không giống như hầu hết những người trong bối cảnh đó, anh viết bằng những câu hoàn chỉnh, điều này hóa ra lại là một tài sản chiến lược thực sự.
Bài viết được AI dịch và tổng hợp tự động từ Hacker News: AI bài nổi bật. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.