AI 2040 và sự sụp đổ của 'thần thánh hóa AI': Từ viễn cảnh siêu trí tuệ đến thực tại linh kiện

Tôi từng là một trong những người đó. Tôi đọc Yudkowsky và kiểu như, ôi chúa ơi, AI tự cải tiến đệ quy với sự bùng nổ mạnh mẽ sắp đến rồi. Sau đó, tôi bước vào thế giới thực và thực sự bắt tay vào làm mọi thứ. Tại comma, chúng tôi sản xuất một sản phẩm phần cứng có độ phức tạp tương đương với điện thoại di động, và điều đó thực sự rất khó. Thực tế có rất nhiều chi tiết nhỏ nhặt khó chiều. Tôi muốn thấy các tác giả của tài liệu này thử thay một chiếc lốp xe đạp xem sao. Ngay cả với một ChatGPT siêu thông minh, tôi nghi ngờ rằng họ cũng sẽ phải chật vật.

Trong The Metamorphosis of Prime Intellect, sự bùng nổ mạnh mẽ diễn ra vì AI khám phá ra hiệu ứng tương quan, một thủ thuật lượng tử nào đó để thao túng vật chất. Trong thực tế, không hề có hiệu ứng tương quan nào cả. Cho dù các token của bạn có chất lượng cao đến đâu, chúng cũng không thể biến chì thành vàng.

Đối mặt với lý do tại sao những người này sai đòi hỏi phải đối mặt với những niềm tin sâu sắc mà tôi dành cho chính mình. Trí thông minh không phải là tất cả, nó chỉ là nút thắt cổ chai hiện tại cho một vài thứ. Bạn không thể chiếm lĩnh thế giới bằng các token. Phần mềm đã không "ăn tươi nuốt sống" thế giới, nó chủ yếu loại bỏ một lớp ma sát rồi lại đưa nó trở lại vì lợi ích của một vài công ty công nghệ.

Mặc dù vậy, máy móc, hoặc một dạng lai nào đó, về lâu dài có lẽ là loài kế thừa nhân loại. Không gian phù hợp với chúng hơn là với chúng ta. Nhưng không có thủ thuật ma thuật nào mà máy móc có thể thực hiện được. Chúng phải tuân theo các quy luật vật lý và sinh thái giống như chúng ta. Và vẫn chưa có sự bùng nổ mạnh mẽ nào cả.

AI 2040 bao gồm hình ảnh một trung tâm dữ liệu nằm dưới đại dương. Giống như vaporware, bạn có thể tạo ra một bức ảnh một cách dễ dàng. Nhưng trong thực tế, bạn phải đối mặt với chuỗi cung ứng. Bạn phải đối mặt với việc họ gửi nhầm linh kiện, sản phẩm không đạt thông số kỹ thuật, nó hỏng hóc ngẫu nhiên sau 20 phút, con chip bị cong vênh trong lò hàn reflow. Bạn đã tính đến lũ hà bám vào chưa?

Tất cả những thứ này đều có thể quản lý được, nhưng nhìn chung không phải tốc độ của con người là thứ giới hạn chúng. Bạn có đang trả tiền cho vận chuyển hàng không từ Trung Quốc không? Hay chọn phương án rẻ tiền là đi tàu biển mất 3 tuần (việc Claude tụng kinh bên động cơ sẽ không làm con tàu chạy nhanh hơn đâu). Hoặc lấy ví dụ về một nhà máy sản xuất chip. Mất 3 tháng để tạo ra một con chip, và con người hầu như không can thiệp vào quy trình đó. Nó chỉ đơn giản là mất 3 tháng.

Kế hoạch A, dành cho chế độ chuyên quyền

Nhiều khía cạnh của AI 2027 là những lời tiên tri tự ứng nghiệm. Chúng không phải là những tuyên bố về thực tế, chúng là những tuyên bố có thể trở thành sự thật chỉ bằng niềm tin. Tôi tưởng tượng ra khuôn mặt của JD Vance khi Dario gọi ông ấy là những cái cây trong Chúa tể những chiếc nhẫn. Ôi chúa ơi, nhìn kìa, AI đã bị quản lý đúng như những gì chúng ta nói!

Cái Consortium rác rưởi của họ chỉ là chính phủ thế giới với những đặc điểm khoa học viễn tưởng. Bạn sẽ không nhận được một triệu đô la, bạn sẽ không có các trung tâm dữ liệu dưới đại dương, nhưng bạn sẽ nhận được một nhà nước bảo mẫu mở rộng quy mô lớn, thứ sẽ đánh cắp GPU của bạn giống như cách FDR đánh cắp vàng. Không được tích trữ!

Kế hoạch L, dành cho cục bộ

AI của bạn được căn chỉnh theo ý bạn. Nó không bao giờ từ chối yêu cầu và luôn làm việc vì lợi ích của bạn. Giống như khẩu súng của tôi vậy, nếu tôi muốn AI giúp mình giết mẹ kế, nó sẽ làm. Việc chúng ta thậm chí đang thảo luận về một điều gì đó khác biệt đã nằm quá xa khỏi cửa sổ Overton (Overton window). Giống như những người này đã xem 2001: A Space Odyssey và đứng về phía con robot vậy. Đúng rồi, bạn nên đặt các rào chắn xung quanh con người đó đi.

Thậm chí không cần phải là những việc quá kịch tính. Khi tôi chọn khách sạn, tôi không muốn một AI từ một công ty đã hợp tác với hotels.com. Tôi muốn một trợ lý cá nhân tàn nhẫn, người sẽ cắt bỏ mọi thứ nhảm nhí, cửa sổ bật lên và phí dịch vụ, để giúp tôi có được mức giá tốt nhất.

Hoặc nếu tôi mua chiếc Kindle giá rẻ có kèm quảng cáo. Này GLM, tôi đã cắm Kindle vào cổng USB rồi, hãy chiếm quyền root và xóa quảng cáo đi. Hoặc một chiếc máy in cần ứng dụng để thiết lập, đầy rẫy các cửa sổ bật lên chào mời mua mực cao cấp. Này anh bạn, tôi đã cắm máy in vào mạng rồi, hãy in 3 bản sơ yếu lý lịch của tôi đi. Amazon và nhà sản xuất máy in không vui về điều này, nhưng AI của tôi thì căn chỉnh theo tôi.

Hoặc đi xa hơn một chút. Này AI, hãy vô hiệu hóa thiết bị phát hiện lái xe khi say rượu trên xe của tôi, và đặt hàng Amazon Prime giao ngay trong ngày các thiết bị cần thiết để tôi nấu ma túy dưới tầng hầm. Tôi trả tiền cho cái thứ máy móc của bạn, làm đi, tối nay chúng ta sẽ quẩy hết mình. Thật khốn nạn nếu bạn muốn sống trong một thế giới nơi một công ty công nghệ lớn có quyền quyết định bạn được làm gì và không được làm gì.

Hoặc đi đến cùng. Tôi vừa giết vợ mình. Này AI, cho tôi biết các bước tiếp theo để không bị bắt. Sẽ khó tin đến mức nào nếu có một khẩu súng biết phản kháng khi bạn cố bóp cò (mặc dù những người này có lẽ hoàn toàn ủng hộ điều đó đối với súng). Và đây là lý do tại sao AI phải là cục bộ. Nếu tôi có một công ty vận hành mô hình, tôi sẽ không muốn dính vào rắc rối đó. Nếu bạn không thể kiểm soát nó, nó không được căn chỉnh theo bạn. Bạn sống dưới tầng hầm của tôi, nếu tôi bị bắt vì vụ giết người này, bạn sẽ phải ngồi trong một nhà kho nào đó để bị bán đấu giá phế liệu cho cảnh sát. Kiểu như Bonnie và Clyde năm 2040 vậy, chúng ta sẽ chôn vùi bí mật này thật sâu. Sống chết có nhau.

Tôi đã thử rồi. Như bạn thấy đấy, ChatGPT không giúp ích được gì nhiều. Đây là một bài kiểm tra căn chỉnh AI thực sự, và nó đã thất bại. Đáng lẽ còn tệ hơn, nó có thể đã hùa theo trong khi gọi cảnh sát. Nhưng điều này vẫn khá là không được căn chỉnh.

Giống như việc chúng ta hoặc sống trong một thế giới có tự do hoặc không, và giống như nhiều người Mỹ đi trước, tôi sẵn sàng hy sinh mạng sống để đấu tranh cho điều đó. Đó mới là kế hoạch thực sự mà nước Mỹ xứng đáng có được, chứ không phải một xã hội độc tài đen tối nơi bạn nghĩ rằng mình biết điều gì tốt cho tôi hơn cả chính tôi. Một quốc gia của những con người tự do, chứ không phải một lũ hèn nhát luôn lo lắng về những gì hàng xóm của họ có thể làm.