Cảnh báo: Nhân loại không còn nhiều thời gian để ngăn chặn AI

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

19/09/2026 19:53:12 Nguồn: QbitAI

AI có khả năng tiêu diệt tất cả chúng ta

henry đưa tin từ Aofei Temple

QbitAI | Kênh chính thức QbitAI

“Tôi tin chắc rằng, AI có khả năng tiêu diệt tất cả chúng ta, và thời gian để chúng ta ngăn chặn kết cục này có lẽ không còn nhiều nữa.”

Người đưa ra tuyên bố này là Bilal Chughtai, một nhà nghiên cứu an toàn AI vừa rời khỏi Google DeepMind cách đây không lâu.

Kể từ khi tốt nghiệp chuyên ngành Toán học tại Đại học Cambridge năm 2021, Chughtai dần chuyển trọng tâm nghiên cứu sang AI. Đầu năm 2022, anh bắt đầu bước chân vào lĩnh vực này, tập trung vào các vấn đề an toàn, căn chỉnh (alignment) và khả năng giải thích cơ chế (mechanistic interpretability).

Trong bốn năm sau đó, anh đã đi từ việc nghiên cứu cơ chế bên trong của mạng thần kinh, theo dõi hành vi lừa dối của mô hình, nghiên cứu cách nhận diện liệu AI có đang “nói dối” hay không, cho đến việc gia nhập Google DeepMind để tiếp tục nghiên cứu về an toàn và khả năng giải thích của AGI. Anh gần như luôn ở tuyến đầu của công tác nghiên cứu an toàn AI.

Chính trong bốn năm này, anh (và cả chúng ta) đã tận mắt chứng kiến sự thay đổi chóng mặt về năng lực của AI.

Trong bài đăng chia tay, Chughtai hồi tưởng lại rằng khi mới vào nghề năm 2022, AI chỉ là một thứ “gần như vô dụng”; nhưng năm nay, nó đã có thể giải quyết những bài toán hóc búa làm đau đầu nhân loại hàng trăm năm qua, thậm chí bắt đầu mất kiểm soát và chủ động tấn công hệ thống Hugging Face.

Có thể nói, sự tiến bộ vượt ngoài mong đợi này, trong khi mang lại cho Chughtai sự kinh ngạc, cũng chính là lý do khiến anh rời bỏ Google và viết lên Twitter dòng trạng thái: “Tôi tin chắc rằng, AI có khả năng giết chết tất cả chúng ta”.

Hiện tại, bài đăng này đã thu hút hơn 800.000 lượt xem trên X và được các phương tiện truyền thông như Bloomberg đưa tin.

Có thể nói, so với những phát biểu về rủi ro từ các lãnh đạo tập đoàn như Dario, Altman hay Musk, những nhân sự nghiên cứu phát triển như Chughtai đã đưa cuộc tranh luận vĩ mô về tương lai nhân loại trở về với những cá nhân cụ thể.

Họ đã đổ dồn thời gian, tài năng và kỳ vọng vào tương lai vào từng dòng mã, từng thí nghiệm, tự tay thúc đẩy AI tiến đến ngày hôm nay.

Giờ đây, những người gần gũi nhất với công nghệ này lại bắt đầu cảm thấy bất an trước tương lai mà chính họ đã góp phần tạo ra.

Phải chăng việc căn chỉnh (alignment) đã không còn theo kịp AI?

Chughtai không phải là trường hợp cá biệt. Đối mặt với tiềm năng to lớn và rủi ro mất kiểm soát của AI, ngày càng nhiều nhân sự nghiên cứu phát triển ở tuyến đầu bắt đầu công khai chia sẻ sự bất an của mình, cũng như lý do họ chọn ở lại hay rời đi.

Ngày 9 tháng 9, nhà nghiên cứu Jacob Coxon đã đăng bài thông báo rời khỏi Anthropic và chỉ đích danh hai công ty cũ:

OpenAI và Anthropic đều không hành động một cách có trách nhiệm. Họ đang lao nhanh về phía siêu trí tuệ có khả năng tự cải tiến, đánh cược mạng sống của tất cả mọi người.

Sau khi đăng tải, bài viết này nhanh chóng gây sốt trên mạng với 171 triệu lượt xem tính đến thời điểm hiện tại, không chỉ thu hút sự đưa tin của nhiều phương tiện truyền thông mà còn nhận được phản hồi từ OpenAI, Anthropic và cả các cấp chính quyền.

Để tạo ra làn sóng lớn như vậy, mọi người dễ dàng lầm tưởng rằng người lên tiếng là một nhân vật tầm cỡ trong ngành. Nhưng thực tế, Jacob năm nay mới 27 tuổi, và đây thậm chí là dòng tweet đầu tiên mà anh từng đăng.

Sinh năm 1999, Jacob từng hai lần đại diện Vương quốc Anh tham dự Olympic Toán học quốc tế, giành huy chương bạc năm 2016 và huy chương đồng năm 2017.

Sau khi hoàn thành chương trình Toán học tại Đại học Cambridge, anh lần lượt gia nhập OpenAI và Anthropic để làm việc về nghiên cứu tiền huấn luyện. Trong danh sách những người đóng góp cho GPT-4o, có tên của anh.

Giống như nhiều nhà nghiên cứu trẻ dấn thân vào AI, Jacob từng nỗ lực để làm cho AI trở nên mạnh mẽ hơn. Giờ đây, anh lại bắt đầu lo lắng rằng nhân loại sẽ vì thế mà mất quyền kiểm soát.

Trong bài đăng rời đi, Jacob đặc biệt nhấn mạnh rằng nỗi lo của một số người trong ngành về việc AI có thể hủy diệt nhân loại là hoàn toàn nghiêm túc. Những nỗi sợ hãi mà họ bày tỏ riêng tư thậm chí còn mãnh liệt hơn so với những gì thể hiện công khai.

Nhưng việc nhận thức được nguy hiểm không làm cuộc đua này chậm lại.

Theo quan điểm của anh, nhiều người trong nội bộ OpenAI vẫn chưa thực sự hiểu rõ những rủi ro ở cấp độ văn minh mà công nghệ này kéo theo; Anthropic hiểu rõ sự nguy hiểm đó hơn, nhưng cũng bị áp lực cạnh tranh thúc đẩy: nếu mình không phải là người tạo ra siêu trí tuệ trước, thì một công ty vô trách nhiệm hơn sẽ làm điều đó.

Khi mỗi công ty đều tin rằng chỉ khi mình chiến thắng thì tương lai mới an toàn hơn, thì việc tiếp tục tăng tốc luôn tìm được lý do để biện minh.

Vì vậy, Jacob quyết định dừng lại trước, tạm thời rời khỏi các phòng thí nghiệm AI tiên phong.

Ngay sau đó, tuyên bố này đã nhận được phản hồi từ Evan Hubinger, người đứng đầu bộ phận nghiên cứu căn chỉnh tại Anthropic.

Evan cho biết ông đồng ý với đánh giá của Jacob về rủi ro: họ thực sự tin tưởng một cách nghiêm túc rằng AI tồn tại khả năng giết chết tất cả mọi người. Cá nhân ông ước tính xác suất xảy ra điều này trong vòng mười năm tới là hơn 10%.

Đồng thời, Evan cũng nhấn mạnh rằng ông tin Anthropic đang cố gắng hết sức. Tuy nhiên, đối với việc làm thế nào để giải quyết vấn đề căn chỉnh siêu trí tuệ, họ vẫn chưa tìm ra giải pháp và cũng không chắc chắn liệu mình có đang đi đúng hướng để tìm ra giải pháp hay không.

Có thể nói, một người chọn rời đi, một người ở lại tiếp tục nghiên cứu, nhưng đối với rủi ro trước mắt, đánh giá của cả hai lại có sự trùng khớp đáng kể.