Hiệu ứng lan tỏa về rủi ro hiện hữu của AI mới chỉ bắt đầu

Chúng ta đang ở giữa một làn sóng ưu tiên (preference cascade) về rủi ro hiện hữu từ AI.

Đáng buồn thay, làn sóng ưu tiên lại là phương pháp tốt nhất mà chúng ta có để thay đổi cuộc tranh luận.

Cơn tuyết lở đã bắt đầu. Vẫn còn thời gian để những viên sỏi lên tiếng. Ít nhất là lúc này.

Mike Solana đã đưa ra góc nhìn chính xác về lý do tại sao bài đăng của Coxon lại lan truyền mạnh mẽ: đó là vì đủ người Mỹ cuối cùng đã có đủ bối cảnh về AI để quan tâm, và có đủ các tài khoản lớn sẵn sàng khuếch đại dòng Tweet đó một cách nhanh chóng để thu hút sự chú ý ban đầu. Đó là tất cả những gì bạn cần khi đã có đủ "củi khô" (sự sẵn sàng bùng nổ).

Điều chúng ta phải nhận ra là làn sóng ưu tiên hiện tại, về nhu cầu cần phải "Kiểm soát tốc độ phát triển (Pace the Frontier)", là chưa đủ. Nếu muốn sống sót qua chuyện này, chúng ta sẽ phải làm tốt hơn. Như Dan Selsam cảnh báo, chúng ta phải thực sự giải quyết được các vấn đề cốt lõi.

Bước tiếp theo là duy trì làn sóng này. Điều đó bao gồm cả bên trong các phòng thí nghiệm, cũng như trong giới truyền thông và chính trị. Nó bao gồm cả những người trước đây tập trung vào các vấn đề khác nay bắt đầu tham gia, và cả những tiếng nói mới được lắng nghe.

Phần lớn công việc này sẽ là vượt qua sự phản đối chính trị tất yếu, đặc biệt là từ những thế lực như Nvidia và a16z, những bên hiện đang có được sự ủng hộ về mặt hùng biện từ Tổng thống và đang thực hiện những việc như gieo rắc các bài viết công kích METR trên tờ New York Post.

Tin tức nóng hổi: Một hội nghị được tổ chức nhanh chóng, AGI.WTF, sẽ diễn ra tại Lighthaven vào ngày 22-23 tháng 9.

Làn sóng này đã được dự báo từ lâu.

Làn sóng đã chạm đến công chúng.

Elon Musk tăng cường quan điểm.

Matthew Yglesias tham gia cuộc chơi.

Các bài xã luận và bài đăng được viết ra.

Phiên hỏi đáp (AMA) của Jacob Coxon.

Bilal Chughtai rời DeepMind và gióng lên hồi chuông cảnh báo.

Làn sóng này là chưa đủ.

Cần phải làm gì đây?

Dan Selsam của OpenAI gióng lên hồi chuông cảnh báo mạnh mẽ hơn.

Một số người lo lắng ở những cấp độ vĩ mô mà bạn chưa từng tưởng tượng tới.

Hai loại mối đe dọa.

Hai tòa tháp và Con đường hẹp.

Một câu chuyện chi tiết, cụ thể về việc AI tiêu diệt nhân loại mà đối với tôi nghe không giống khoa học viễn tưởng chút nào.

Tôi có thể làm gì về điều này?

Khảo sát của AI Impacts đã có kết quả. Ngay từ tháng 12 năm 2024, các ước tính về rủi ro hiện hữu đã bắt đầu tăng dần, và 10% là con số trung vị:

AI Impacts: Các nhà nghiên cứu AI trung bình cho rằng có khoảng 18% khả năng AI sẽ gây ra sự tuyệt chủng của loài người hoặc sự tước đoạt quyền lực nghiêm trọng và vĩnh viễn tương tự đối với loài người.

Đó là gần 1 trên 5.

Kết quả mới từ phiên bản mới nhất của cuộc khảo sát lớn và lâu đời nhất về các nhà nghiên cứu AI:

AI Impacts: Và các nhà nghiên cứu châu Á nhìn nhận rủi ro lớn hơn so với các nhà nghiên cứu phương Tây, trái ngược với những kỳ vọng thông thường.

Andrew Curran: Làn sóng Coxon dường như đã có tác động ngay lập tức đến dư luận. Các cuộc thăm dò mới từ Politico, được thực hiện trong vài ngày qua, cho thấy gần hai phần ba người Mỹ hiện nói rằng có ít nhất một rủi ro vừa phải là AI sẽ tiêu diệt nhân loại.

Chuyển đổi sang tỷ lệ phần trăm, điều này ngụ ý khả năng trung bình AI tiêu diệt nhân loại là khoảng 30%-33%, mà Andrew Curran ước tính đã tăng khoảng 15% so với các kết quả trước đó, với kỳ vọng trung vị ở mức 10%, và chỉ có sự chia rẽ nhỏ giữa các đảng phái.

Công chúng cũng bao gồm cả các CEO.

Chip Cutter (WSJ): Tại một buổi họp mặt chỉ dành cho khách mời gồm hàng chục giám đốc điều hành hàng đầu nước Mỹ ở Washington tuần này, các nhà lãnh đạo doanh nghiệp đã phản đối mạnh mẽ đánh giá của tổng thống rằng những nguy hiểm do trí tuệ nhân tạo gây ra đang bị thổi phồng. Trong một cuộc thăm dò nhanh những người tham dự tại sự kiện của Trường Quản lý Yale, 93% cho biết Trump đã sai khi gọi những nguy hiểm tiềm tàng mang tính thảm họa của công nghệ này là một trò lừa bịp, như ông đã làm hồi đầu tuần.

Nó cũng bao gồm các nhà toán học của Hiệp hội Hoàng gia (Royal Society).

Elon Musk (về an toàn và quy định AI): Tôi nghĩ rõ ràng là có một sự đồng thuận mạnh mẽ… rằng cần phải có một số quy định về AI. Điều đó sẽ mang lại lợi ích tốt nhất cho người dân. Chúng ta đã từng tạo ra các cơ quan quản lý trước đây rồi.