AI 2040: Đề xuất hoãn siêu trí tuệ đến năm 2040 và minh bạch hóa toàn cầu

Các công ty AI đang chạy đua để xây dựng những hệ thống AI thông minh hơn con người về mọi mặt. Trong AI 2027, chúng tôi đã dự đoán rằng điều này sẽ dẫn đến sự diệt vong hoặc sự tập trung quyền lực không thể đảo ngược.1

Kế hoạch A là tầm nhìn tích cực của chúng tôi về những gì nên xảy ra thay thế.

Trong kịch bản này, nhân loại trì hoãn việc phát triển siêu trí tuệ cho đến năm 2040, công khai tất cả các nghiên cứu về AI, cho phép hàng chục công ty trên toàn cầu bắt kịp trình độ tiên phong, và cố tình bước vào một chế độ hủy diệt lẫn nhau về năng lực tính toán (mutually assured compute destruction).

2027: Điềm báo trước

Nước Mỹ hiện có hai lực lượng lao động. Lực lượng thứ nhất là con người, với 165 triệu người. Lực lượng thứ hai là các AI agent: hàng triệu bản sao được khởi chạy và tắt đi mỗi giờ, làm việc suốt ngày đêm với tốc độ siêu phàm.

Phần lớn công việc của chúng là rác. Nhưng cũng có đủ lượng công việc chất lượng khiến mọi người sẵn sàng chi mười tỷ đô la mỗi tháng cho các AI có khả năng, ít nhất là về lý thuyết, thực hiện bất cứ việc gì trên máy tính mà một nhân viên có thể làm.

Có một công việc mà các công ty AI muốn tự động hóa hơn bất kỳ công việc nào khác—chính là công việc của họ. Họ vẫn chưa thành công; cho đến nay vẫn chưa có sự tự cải thiện đệ quy (recursive self-improvement).14 Nhưng họ dường như đang tiến gần hơn, và họ đang rút thang ngay sau khi leo lên: các AI lập trình mạnh nhất từ chối giúp đỡ đối thủ cạnh tranh trong việc R&D AI.15 Ngay cả khi những nhân viên lạc quan nhất cũng thừa nhận rằng mọi thứ đang mất nhiều thời gian hơn dự kiến, những người hoài nghi nhận thấy rằng những lời bác bỏ thông thường của họ bắt đầu trở nên sáo rỗng. Chính xác thì tại sao AI sẽ không bao giờ có thể làm công việc của tôi? Rào cản đó là gì nhỉ?

Quốc hội đang bắt đầu chú ý hơn. Họ đã nghe nói về AI từ lâu: các trung tâm dữ liệu tiêu tốn quá nhiều nước,16 các chatbot khuyến khích tự tử, Mythos hack vào hệ thống của NSA—và tất nhiên, các nhà vận động hành lang của ngành công nghệ cảnh báo rằng bất kỳ dấu hiệu quản lý nào cũng sẽ khiến nước Mỹ ngay lập tức thua cuộc trong cuộc đua với Trung Quốc và dành phần còn lại của lịch sử để trở thành một quốc gia chư hầu của ĐCSTQ.17

Bây giờ họ lùi lại và tự hỏi: Chúng ta đang đi về đâu với điều này? Thế giới sẽ trông như thế nào sau năm, mười, hoặc mười lăm năm nữa? Liệu sẽ còn việc làm không? Nếu không còn thì sao?

Một câu hỏi đè nặng lên tâm trí họ: Ai sẽ kiểm soát tất cả những AI này?

Quốc hội đi đến một phần quan trọng của câu trả lời: Có lẽ không phải chúng ta.18

Họ tổ chức một loạt các phiên điều trần căng thẳng về AI. Họ đọc các email năm 2016 của OpenAI thảo luận về việc OpenAI được thành lập để ngăn cản Demis Hassabis trở thành nhà độc tài.19 Nhưng ai đang ngăn cản Sam hoặc Elon trở thành nhà độc tài? Quốc hội không hài lòng với các phản hồi hiện tại.

Kết quả của sự thức tỉnh này là Đạo luật Minh bạch AI năm 2027, một dự luật tổng hợp thực hiện nhiều việc, có cả tốt lẫn xấu, nhưng không thay đổi căn bản tình hình.20

Danh sách mong muốn về chính sách AI tăng dần

Khuyến nghị chính của chúng tôi là bắt đầu đàm phán một thứ gì đó giống như Kế hoạch A càng sớm càng tốt. Nhưng trong kịch bản này, chúng tôi mô tả Kế hoạch A diễn ra một cách không hoàn hảo và chỉ kịp lúc. Vì vậy, đây là danh sách các ý tưởng ít tham vọng hơn nhưng vẫn hữu ích.

2028: AI trên lá phiếu

Chu kỳ bầu cử năm 2028 diễn ra gay gắt như thường lệ. AI là chủ đề lớn nhất. Các trung tâm dữ liệu đang được xây dựng hiện có chi phí gấp đôi toàn bộ ngân sách quân sự của Mỹ.23

Hầu hết các ngành nghề cổ cồn trắng đang chứng kiến sự gián đoạn giống như ngành kỹ thuật phần mềm đã trải qua vào năm 2026; các công việc như vậy hiện nay liên quan mật thiết đến việc quản lý các AI agent. Các công ty AI đã công nghiệp hóa quy trình đào tạo: Các giám đốc điều hành nói "hãy chuyển sang [ngành nghề] trong năm nay" và sau đó công ty phỏng vấn các chuyên gia, mua dữ liệu, tạo môi trường đào tạo, v.v. cho đến khi AI của họ đạt được sức hút. Sau đó, các AI cải thiện nhanh chóng khi chúng được sử dụng rộng rãi hơn trong thực tế và tích lũy thêm dữ liệu thực tế.

Các quốc gia khác đang bắt đầu cảm thấy sợ hãi và tức giận. Có vẻ như một số ít các công ty Mỹ và Trung Quốc đang trên đà tự động hóa tất cả các công việc cổ cồn trắng. Quyền lực đang tập trung vào Mỹ, và cụ thể là vào Tổng thống cùng một số ít các CEO công nghệ.

Các chuyên gia AI cảnh báo rằng sự bùng nổ trí tuệ đã gần kề. Bằng cách tăng tốc nghiên cứu AI, các AI sẽ trở nên năng lực hơn nữa, thúc đẩy nghiên cứu nhanh hơn nữa, khiến chúng càng năng lực hơn, và cứ thế tiếp diễn. Có những động lực phức tạp về các nút thắt cổ chai và giới hạn phần cứng chi phối tốc độ của quá trình này và nơi nó kết thúc, nhưng có vẻ như nó có thể diễn ra rất nhanh và kết thúc ở một nơi rất xa.

Trên con đường mặc định, nhiệm kỳ tổng thống tiếp theo sẽ chứng kiến các AI vượt xa trình độ con người, được tạo ra hoàn toàn bởi các AI, những AI này lại được tạo ra hoàn toàn bởi các AI khác, mà không có bất kỳ sự can thiệp nào của con người kể từ nhiều thế hệ trước. Liệu những AI đó có phục tùng, được căn chỉnh (aligned), v.v. không? Tại sao? Nếu có thì ai sẽ kiểm soát chúng? Chính xác thì làm thế nào để tất cả những điều này kết thúc tốt đẹp?

Sau khi đưa nhân loại vào con đường này, các công ty AI thấy điều đó là chấp nhận được. Nhưng hầu hết mọi người thì không. Hãy quên việc nghĩ về di sản của mình đi—Tổng thống đang bắt đầu nghĩ về những gì sẽ xảy ra với ông sau khi rời nhiệm sở và thế giới bị biến đổi.24 Cả hai ứng cử viên tổng thống đều liên tục bị hỏi về việc họ sẽ làm gì với AI, và thử nghiệm những ý tưởng ngày càng kịch tính trong chiến dịch tranh cử. Cuộc thảo luận chuyển dịch qua lại giữa tất cả các lựa chọn được hiển thị bên dưới, và hơn thế nữa.

Cuối cùng, Tổng thống và người được ông bảo trợ hội tụ vào một kế hoạch; ứng cử viên đối lập hội tụ vào một kế hoạch khác. Sau đó là Ngày Bầu cử.

2029: Chọn một con đường