Sử gia Jill Lepore: Thung lũng Silicon đang hiểu sai khoa học viễn tưởng và đe dọa nền dân chủ

Trong cuốn sách sắp ra mắt “The Rise and Fall of the Artificial State” (tạm dịch: Sự trỗi dậy và suy tàn của nhà nước nhân tạo), Jill Lepore cảnh báo rằng các công ty công nghệ đang ngày càng thay thế các chức năng của chính phủ dân chủ. Bà cho biết, sự thay đổi này đánh dấu “một sự trở lại với chế độ chuyên chế và sự mê hoặc dưới hình thức cai trị bằng thuật toán, tập đoàn và máy móc.”

Trong tập mới nhất của podcast Equity từ TechCrunch, tôi đã trò chuyện với Lepore — một nhà sử học tại Harvard và là cây bút của tờ New Yorker, người gần đây đã giành giải Pulitzer cho công trình nghiên cứu về Hiến pháp Hoa Kỳ — về sự phát triển của cái mà bà mô tả là “ý tưởng cho rằng chúng ta nên sống dưới một nhà nước nhân tạo hoặc sự cai trị của máy móc.”

“Tôi không phải là người bài trừ công nghệ,” Lepore khẳng định. Thay vào đó, bà nói: “Điều tôi bất bình là cách các tập đoàn tư nhân ngày càng đảm nhận các chức năng của nhà nước.”

Mặc dù cuốn sách của Lepore xem xét các triết lý kỹ trị đã có từ nhiều thế kỷ trước, bà lập luận rằng nhiều “nhà lãnh đạo có sức hút hoặc không mấy sức hút” của Thung lũng Silicon — đặc biệt là Elon Musk — dường như đang dẫn dắt chúng ta đến một tương lai được lấy ra từ những cuốn tiểu thuyết khoa học viễn tưởng rẻ tiền và truyện tranh bị hiểu sai.

“Nhưng điều nực cười ở Musk là những thứ ông ấy thích thực chất lại hoàn toàn đánh bại và thách thức mọi niềm tin chính trị của chính ông ấy,” bà nói.

Cuộc trò chuyện của chúng tôi cũng đề cập đến quảng cáo “1984” nổi tiếng của Apple cho dòng máy Macintosh, lý do tại sao việc gọi Twitter là một diễn đàn công cộng kỹ thuật số là “điên rồ”, và làn sóng phản đối các trung tâm dữ liệu hiện nay. Hãy tiếp tục đọc các điểm nổi bật đã được biên tập lại để đảm bảo độ dài và sự rõ ràng.

Vậy, có lẽ bà đã phải giải thích điều này rất nhiều lần rồi, nhưng bà có thể giải thích ý của mình về “nhà nước nhân tạo” là gì không?

Với “nhà nước nhân tạo”, tôi muốn nói đến một loại nhà nước đang thay thế nhà nước dân tộc dân chủ tự do ở Hoa Kỳ và trên toàn thế giới. Nó vừa là một thực thể có thật, một cấu trúc, nhưng cũng là một ý tưởng.

Và vì vậy, trong cuốn sách “The Rise and Fall of the Artificial State”, tôi truy tìm sự trỗi dậy của ý tưởng cho rằng chúng ta nên sống dưới một nhà nước nhân tạo hoặc sự cai trị của máy móc. Tôi cũng truy tìm quan điểm cho rằng đây là một thất bại tất yếu, rằng nhà nước nhân tạo không thể tồn tại lâu dài, và tôi truy tìm ý tưởng đó thông qua khoa học viễn tưởng.

Có đoạn bà nói rằng sự trỗi dậy của nhà nước nhân tạo đánh dấu sự kết thúc của nhiều thế kỷ dân chủ và quyền bình đẳng, và đó là “sự trở lại với chế độ chuyên chế và sự mê hoặc dưới hình thức cai trị bằng thuật toán, tập đoàn, máy móc.” Bà có thể nói rõ hơn tại sao bà lại nhìn nhận vấn đề này theo cách gay gắt như vậy không?

Vâng, tôi thực sự có cái nhìn khá tiêu cực về điều đó, và tôi nghĩ điều quan trọng là phải phân biệt nhà nước nhân tạo với chính công nghệ hoặc các phương thức công nghệ. Tôi không phải là người bài trừ công nghệ. Tôi kết hôn với một nhà khoa học máy tính. Tôi thực sự hào hứng với tất cả các cuộc cách mạng trí tuệ mà chúng ta đang trải qua ngay lúc này.

Đó không phải là điều tôi bất bình, đúng không? Điều tôi bất bình là cách các tập đoàn tư nhân ngày càng đảm nhận các chức năng của nhà nước. Không ai đồng ý với điều đó cả. Đây là một sự chuyển đổi dần dần, phần lớn là ngẫu nhiên trong cách vận hành của nhiều quốc gia trên thế giới — và nó đã xảy ra đầu tiên ở Hoa Kỳ.

Tôi nghĩ rằng nhiều đổi mới trong việc đưa công nghệ mới vào hoạt động của chính phủ thường có ý định rất tốt; chúng bắt nguồn từ sự quan tâm đến hiệu quả, tốc độ và chi phí thấp. Và sau đó, tôi nghĩ chỉ trong khoảng 20, 25 năm trở lại đây, những quyết định này mới mang tính mục đích và cố ý như một hình thức chiếm đoạt vai trò của nhà nước dân tộc.

Và đó không phải là suy đoán của tôi. Bạn nghe rất nhiều doanh nhân công nghệ nổi tiếng nói về việc muốn vượt ra khỏi kỷ nguyên của nhà nước dân tộc. [...] Rất nhiều nhà tương lai học vào những năm 90 là những người theo chủ nghĩa tự do cá nhân, và họ có một mối quan tâm cụ thể là sử dụng sự tiến bộ của internet và các đổi mới kế tiếp để xóa bỏ nhà nước dân tộc.

Bà nói về một mặt là bản thân các công nghệ, và mặt khác là các triết lý đằng sau chúng, cũng như vai trò mà các tập đoàn ngày càng đóng. Tôi tò mò không biết chúng ta có thể tách biệt chúng đến mức nào. Liệu chúng ta có thực sự có một phiên bản internet và mạng xã hội mà không nhất thiết dẫn đến tương lai mà dường như chúng ta [hiện tại] đang lao tới không?

Chắc chắn là có. Tôi là một nhà sử học. Tôi không phải là người viết về công nghệ. Tôi không phải là nhà báo công nghệ. Tôi không phải là nhà khoa học máy tính. Tôi là một nhà sử học, và chủ yếu là một nhà sử học chính trị, mặc dù tôi cũng là một nhà sử học văn học. Và vì vậy, một trong những điều tôi thực sự quan tâm khi làm sáng tỏ cho độc giả trong cuốn sách này là tất cả những giả thuyết “nếu như”, tất cả các lựa chọn thay thế, những con đường không được chọn và lý do tại sao.

Tất nhiên, đã có một cuộc thảo luận rất sôi nổi vào những năm 1990 về việc internet nên trông như thế nào khi nó được mở ra, và những gì chúng ta nhận được, Đạo luật Viễn thông năm 1996 — tôi nghĩ nhiều người sẽ nói [rằng] đó chỉ là một sai lầm, không phải là một hành động có ý đồ xấu xa, phải không?

Nhưng đó là sản phẩm của một thời điểm chính trị cụ thể, thực sự chịu ảnh hưởng sâu sắc bởi Newt Gingrich và bản “Hợp đồng với nước Mỹ” (Contract with America) của ông ấy, và rất khó để xem xét lại. Tôi nghĩ rất đáng để suy ngẫm về những lựa chọn thay thế nào đã được cân nhắc vào thời điểm đó.

Và bạn cũng có thể nói điều tương tự về máy tính cá nhân. Vì vậy, ở mức độ mà chúng ta có thể xác định một điểm khởi đầu cho lời hứa rằng công nghệ máy tính tốt hơn sẽ tạo ra nền dân chủ tốt hơn, tôi nghĩ thời điểm bạn nên nhìn vào đầu tiên là tháng 1 năm 1984, quảng cáo Super Bowl mà Apple đã chạy cho sự ra mắt của Macintosh, với chủ đề kiểu George Orwell, 1984. Apple thực sự rất chú trọng vào ý tưởng rằng máy tính lớn (mainframe) đại diện cho chủ nghĩa toàn trị. Họ đã cố gắng phá bỏ những cỗ máy IBM màu xám khổng lồ, như cách họ thể hiện chúng trong quảng cáo đó là một nhà nước toàn trị. Và chiếc Macintosh cá nhân uyển chuyển, xinh đẹp, nhanh nhẹn, đáng yêu sẽ là chiếc rìu phá hủy cỗ máy đó và mở ra một kỷ nguyên mới, nơi “1984 sẽ không phải là ‘1984’.”

Đó là một quảng cáo thông minh. Tôi nghi ngờ rằng bất kỳ ai ở Apple thực sự tin rằng máy tính cá nhân sẽ là một công cụ giải phóng cá nhân. Ý tôi là, nó sẽ làm cho nhiều điều thú vị trở nên khả thi. Tôi nhớ khi tôi có chiếc Macintosh đầu tiên của mình — chắc chắn không phải năm 1984, nhưng nó thực sự rất tuyệt, rất vui, rất thú vị, tôi đã làm rất nhiều việc trên đó. Tôi chưa bao giờ nghĩ rằng nó đang cải thiện năng lực công dân của mình hay khả năng hoạt động tốt hơn trong xã hội dân sự. Nó chỉ là một công cụ thú vị.

Nhưng nếu bạn tua nhanh thời gian đến năm 2026 — các điểm dừng trên đường đi bao gồm cuộc bầu cử năm 2016 khi Facebook News, để đáp lại những lời chỉ trích, đã thành lập một Tòa án Tối cao. Bạn đến năm ngoái, khi Anthropic thuê một nhà triết học đạo đức để viết một bản hiến pháp. Gần đây, khi Sam Altman xuất hiện trên chương trình Joe Rogan và nói [để trả lời một câu hỏi từ Rogan], “Ồ, một tổng thống AI sẽ là một ý tưởng tuyệt vời.”

Theo một cách nào đó, đó là những ví dụ ngớ ngẩn. Nhưng bạn thấy cách các tập đoàn này, các công ty công nghệ từ Thung lũng Silicon, và đặc biệt là các nhà lãnh đạo có sức hút hoặc không mấy sức hút của họ, đang khoác lên mình những biểu tượng của nhà nước dân tộc và các chức năng của nền dân chủ.

Họ không phải là những người có triết lý chính trị tinh vi, mà nó giống như một phiên bản hoạt hình của quảng cáo Macintosh năm 1984 đó, ngoại trừ việc nó tự coi mình quá nghiêm túc. Và các công ty này có quá nhiều quyền lực.

Nhưng nói như vậy, cuốn sách không bắt đầu vào năm 1984. Tôi chỉ nghĩ đó là một ví dụ điển hình về kỷ nguyên hiện đại của chúng ta và cách một chiến dịch quảng cáo vui vẻ biến thành một loại ảo tưởng của những người như Sam Altman.

Bà [cũng] nói về lời hứa của cái gọi là “cuộc cách mạng Twitter”, và ý tưởng rằng nó sẽ mang dân chủ đến khắp mọi nơi. Tôi không thể không để điều đó ảnh hưởng đến cách tôi [phản ứng] khi Sam Altman hoặc một số CEO AI khác hiện nay nói rằng AI sẽ mang lại tất cả những món quà đáng kinh ngạc này — và do đó, nếu bạn cản đường, bạn đang cản đường sự tiến bộ, cản đường lịch sử.

Chúng ta nên bác bỏ tất cả những tuyên bố này ngay lập tức đến mức nào, hay có những cách nào mà nó có thể trở thành sự thật?

Ý tôi là, Twitter thực sự là một ví dụ điển hình, phải không? Khi nó được ra mắt, khi Jack Dorsey bắt đầu nó, nó không tự tuyên bố rằng: “Chúng tôi sẽ cứu nhân loại, chúng tôi sẽ giải cứu nền văn minh nhân loại khỏi sự diệt vong.” Nó giống như một trò đùa, và tôi nghĩ những người sử dụng Twitter từ rất sớm đều kiểu như: “Bạn biết không? Nó thực sự rất vui.” Nó giống như: “Hôm nay tôi đã làm một chiếc bánh mì kẹp cá ngừ. Bạn ăn trưa món gì?” Twitter với tư cách là một công ty đã không tự ra mắt trên sân khấu và nói: “Chúng tôi ở đây để cứu nền dân chủ.”

Và thực sự, điều đã xảy ra là các chính trị gia, các quan chức được bầu bắt đầu sử dụng Twitter theo những cách giúp tăng cường quyền lực chính trị của họ, theo những cách khuếch đại thông điệp của họ, theo những cách cho phép họ tiếp cận đối tượng trẻ hơn, theo những cách cho phép họ duy trì kết nối liên tục với khán giả. Các chính trị gia và các chiến dịch chính trị thực sự đã thuyết phục Twitter — ít nhất là theo cách tôi nhìn nhận, tôi không có tài khoản nội bộ của công ty — nhưng một cách miễn cưỡng, Twitter đã đi đến chỗ kiểu như: “Twitter đã trở nên quá lớn, và mọi người đăng bài về chính trị quá thường xuyên đến mức gần như Twitter là một diễn đàn công cộng.”

Đến thời điểm tôi nghĩ là năm 2012 — nhiều năm sau lịch sử khá ngắn ngủi của Twitter — họ xuất bản một thứ gọi là “Sổ tay Chính trị và Bầu cử Twitter”, thực sự là một hướng dẫn cho các ứng cử viên chính trị và các quan chức được bầu về cách sử dụng Twitter hiệu quả nhất. Và sau đó họ bắt đầu triển khai thông điệp: “Đó là một diễn đàn công cộng trong túi của bạn, và nó đang cải thiện nền dân chủ của chúng ta vì chúng ta đang khôi phục lại cuộc họp thị trấn New England đã lỗi thời,” và tất cả điều đó thật điên rồ.

Khách quan mà nói, không gì có thể xa rời sự thật hơn thế. Vào thời điểm đó, cứ năm người Mỹ thì có một người có tài khoản Twitter. Hầu hết những người có tài khoản Twitter chưa bao giờ sử dụng chúng, và hơn 90% tất cả các tweet về chính trị được đăng bởi chưa đầy 10% những người sử dụng Twitter thường xuyên. Không có cách nào mà Twitter là đại diện cho cử tri. Twitter là đại diện cho những người Mỹ cực đoan nhất, tích cực về chính trị nhất, đảng phái nhất, những người đang theo dõi chính trị một cách rất cuồng nhiệt. Nhìn lại bây giờ, chúng ta có thể thấy: “Chà, đó thực sự chỉ là một cỗ máy bóp méo thông tin. Và nếu các chính trị gia đang sử dụng nó để đánh giá cử tri, họ đang nhận được thông tin rất tồi tệ.”

Một lần nữa, bạn có thể nói Twitter không cố gắng tham gia vào nhà nước nhân tạo hay làm suy yếu nền dân chủ. Twitter đang cố gắng kinh doanh, thu hút thêm người dùng và bán bất cứ thứ gì. Nhưng nó đã có những hậu quả không lường trước được mà sau đó nó dần chấp nhận và trở nên thoải mái với điều đó.

Tôi muốn nói thêm một chút về cấu trúc của cuốn sách. Như bà đã nói, nó bắt đầu với lịch sử công nghệ, lịch sử các ý tưởng, và nửa sau là về khoa học viễn tưởng. Bà có thể nói thêm về việc cấu trúc đó đến với bà như thế nào và tại sao bà lại muốn giải quyết mọi thứ theo cách đó không?

Tôi trở nên thực sự quan tâm, một mặt, đến việc các câu chuyện khoa học viễn tưởng thường dự đoán sự xuất hiện của cái mà sau đó tôi gọi là nhà nước nhân tạo, vì vậy tôi thực sự muốn xác định một truyền thống văn học mà tôi coi là ngụ ngôn về nhà nước nhân tạo, trong đó máy móc ngày càng trở nên tinh vi hơn, chúng đảm nhận ngày càng nhiều chức năng của con người, bao gồm cả các chức năng của chính phủ, và cuối cùng chúng cai trị con người, và sau đó có lẽ chúng tiêu diệt tất cả con người vì chúng không thực sự cần họ nữa.

Có lẽ chúng chỉ nô dịch họ, điều đó tùy thuộc vào từng trường hợp. Chúng ta đang ở trong “The Terminator” hay chúng ta đang ở trong “Battlestar Galactica”? Có nhiều phiên bản khác nhau, và những câu chuyện này đã có từ rất lâu. Chúng bắt nguồn từ những năm 1850 và những thập kỷ đầu tiên suy ngẫm về hậu quả của chủ nghĩa công nghiệp.

Tôi nghĩ rất nhiều người — điều này chắc chắn đúng với sinh viên của tôi, sinh viên đại học của tôi — thực sự tin rằng thay đổi công nghệ đồng nghĩa với tiến bộ. Và không chỉ vậy, mà loại tiến bộ duy nhất là thay đổi công nghệ. Đó là một sự mới lạ trong lịch sử nhân loại. Đó là một phát minh trí tuệ của thế kỷ 19, và một phần là do thay đổi công nghệ đang tăng tốc ngay vào thời điểm Charles Darwin đang xây dựng và sau đó xuất bản thuyết tiến hóa của mình.

Vì vậy, có một sự kết hợp kỳ lạ giữa tiến hóa là tiến bộ và thay đổi công nghệ là tiến bộ, và những gì bị loại bỏ khỏi đó là tất cả các khái niệm khác, sớm hơn về tiến bộ, chủ yếu liên quan đến tiến bộ đạo đức — ví dụ như, mọi thứ đang trở nên tốt hơn vì con người đang trở nên tốt hơn, hoặc mọi thứ đang trở nên tốt hơn vì con người được tự do hơn.

Có rất nhiều cách khác mà chúng ta có thể nghĩ về tiến bộ, nhưng điều thống trị ngày nay là khái niệm thế kỷ 19 về tiến bộ công nghệ là loại tiến bộ duy nhất, và do đó mọi thay đổi công nghệ đều là tiến bộ, trái ngược với — khách quan mà nói, nó chỉ là tiến bộ nếu mọi thứ đang trở nên tốt hơn.

Nhưng dù sao đi nữa, sự hội tụ đó trong thế kỷ 19 giữa ý tưởng về tiến bộ công nghệ và ý tưởng về tiến hóa có nghĩa là những người suy nghĩ sáng suốt đã kiểu như: “Chà, nếu máy móc cứ ngày càng tốt hơn, nhanh hơn và có khả năng làm được nhiều việc hơn — không chỉ là lao động, mà có lẽ là nói chuyện, suy nghĩ hoặc di chuyển xung quanh — thì sao nếu chúng tiến hóa để trở nên giỏi hơn chúng ta ở mọi thứ? Không chỉ giỏi vận hành khung cửi, không chỉ nhanh hơn trong việc di chuyển qua thời gian và không gian như một toa tàu hỏa?” Và cùng với đó là sự lo âu đáng kinh ngạc đã tìm thấy hình thức trong khoa học viễn tưởng hết lần này đến lần khác.

Câu chuyện yêu thích của tôi trong số này được xuất bản, tôi nghĩ là vào năm 1909 bởi E. M. Forster, ngay khoảng thời gian ông đang viết “A Room with a View”. Ông đã viết câu chuyện này có tên là “The Machine Stops” (tạm dịch: Cỗ máy dừng lại), có thể có tiêu đề phụ là “Căn phòng không có tầm nhìn”. Ông tưởng tượng một tương lai gần nơi mọi người chỉ sống trong những căn phòng này, những ô nhỏ này. Bạn không bao giờ nhìn thấy người khác vì mọi thứ bạn cần đều đến ngay phòng của bạn. Nó giống như DoorDash vậy, thức ăn của bạn được giao đến, bạn có một màn hình nơi bạn có thể giao tiếp với người khác. Mọi nhu cầu của bạn đều được đáp ứng.