Khi AI tự tạo ra AI: Nỗi lo sợ lớn nhất của nhân loại

Sự kết hợp giữa các tiến bộ chóng mặt, khả năng tự cải tiến và các "đội quân" tác nhân AI đang thực sự gieo rắc nỗi sợ hãi tột độ ngay bên trong những phòng thí nghiệm.

AI tự đẻ AI, bài toán đáng sợ nhất của loài người

Sự kết hợp giữa các tiến bộ chóng mặt, khả năng tự cải tiến và các "đội quân" tác nhân AI đang thực sự gieo rắc nỗi sợ hãi tột độ ngay bên trong những phòng thí nghiệm.

Anh Tuấn · 18/9/2026

Đầu năm nay, Rishub Jain đã quyết định rời bỏ vị trí nhà nghiên cứu trí tuệ nhân tạo (AI) tại Google DeepMind sau một lần "giác ngộ".

Khi tham gia phát triển các mô hình mới, Jain nhận ra rằng anh và những đồng nghiệp đang đứng trên tuyến đầu của công nghệ này đang dần đánh mất quyền kiểm soát.

Bằng cách sử dụng chính khả năng lập trình của AI để đẩy nhanh tiến độ tạo ra các mô hình thế hệ tiếp theo, Jain đang tự gạt con người ra khỏi phương trình.

Khát vọng của các phòng thí nghiệm là nâng cấp phương pháp này đến mức AI có thể tự cải thiện bản thân vô thời hạn. Quá trình này được gọi là recursive self-improvement (tự cải tiến đệ quy), tức AI tham gia vào vòng lặp tự cải tiến.

{ 01 }

Vòng lặp tự

cải tiến vô hạn

Jain tin rằng việc giữ con người trong vòng lặp có thể là yếu tố sống còn để duy trì quyền kiểm soát công nghệ và tránh những hậu quả thảm khốc. "Tiến bộ AI đang tăng tốc và khi AI trở nên tài giỏi hơn, nó cũng tiềm ẩn nhiều rủi ro hơn", vị kỹ sư nói với Wired.

AI đã tiến bộ nhanh hơn đáng kể, và động lực quan trọng nằm ở khả năng ngày càng tăng của công nghệ này trong việc xây dựng thế hệ tiếp theo của chính nó. Ảnh: wildpixel.

Ý nghĩ về việc bản thân có thể không còn cái nhìn tường tận về cách một mô hình AI tự nhào nặn ra "người kế nhiệm" khiến Jain bất an đến mức quyết định từ chức vào tháng 6. Thực tế, anh chỉ là một trong số ngày càng nhiều các nhà nghiên cứu AI lên tiếng cảnh báo về những nỗi sợ hãi này.

Cơn hoảng loạn đã leo thang đỉnh điểm trong những tuần gần đây. Những bước tiến kinh ngạc về năng lực AI, tiêu biểu là việc mô hình của OpenAI giải quyết một bài toán chưa có lời giải hàng thế kỷ chỉ trong vài giờ, xuất hiện song song với một loạt sự cố bảo mật rúng động.

Sự lo ngại càng bị đẩy lên cao trào trong tuần này sau khi nhà nghiên cứu Jacob Coxon tuyên bố từ chức khỏi Anthropic, đồng thời cảnh báo rằng các công ty AI đang "chạy đua đâm đầu vào siêu trí tuệ tự cải thiện và đánh cược bằng chính mạng sống".

Một quản lý cấp cao phụ trách an toàn AI tại Anthropic cũng đưa ra nhận định lạnh gáy không kém: "Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại! Cá nhân tôi nghĩ khả năng đó lớn hơn 10% trong vòng một thập kỷ tới".

Cốt lõi của việc "tự cải tiến" là ý tưởng về một vòng lặp phản hồi tự động hóa quá trình phát triển, giúp AI ngày càng trở nên toàn năng hơn.

Dù hiện tại chưa có phòng thí nghiệm nào tuyên bố đạt được chu trình tự cải thiện hoàn toàn tự chủ này, nhưng nó đã đủ sức trở thành kim chỉ nam cho sự ra đời của một số startup được rót vốn "khủng" như Recursive Intelligence.

Điều đáng chú ý là đây không còn chỉ là một ý tưởng trên giấy. Dario Amodei, CEO Anthropic cho biết quá trình này đang bắt đầu diễn ra trong toàn ngành, bao gồm cả Anthropic.

Nếu không được kiểm soát, tốc độ cải tiến có thể vượt quá khả năng của con người trong việc hiểu và kiểm soát những hệ thống mới.

{ 02 }

Quả bom nổ chậm

từ các cuộc chạy đua

Daniel Kokotajlo, tác giả của dự án có sức ảnh hưởng AI 2027 cảnh báo về hiểm họa của AI ngày càng mạnh, cũng chia sẻ nỗi sợ hãi về quy trình tự cải tiến của công nghệ này.

Cốt lõi của việc "tự cải tiến" là ý tưởng về một vòng lặp phản hồi tự động hóa quá trình phát triển, giúp AI ngày càng trở nên toàn năng hơn. Ảnh: Time.

Hiện tại, những mô hình mới nhất đã có khả năng triển khai hơn 1.000 tác nhân AI để cùng hợp tác giải quyết một vấn đề. Chính sự phức tạp khổng lồ này càng làm lu mờ thêm khả năng giám sát và kiểm soát của con người.

Sự cảnh giác đã nhen nhóm từ rất lâu trước khi diễn ra vụ từ chức chấn động của Coxon hay các sự cố rò rỉ mã độc.

Ngay từ khi Anthropic mới thành lập, các lãnh đạo của công ty đã thừa nhận AI có thể trở thành một mối đe dọa sinh tồn. Tháng 7 vừa qua, hơn 1.000 kỹ sư AI hàng đầu thế giới đã ký vào một bức thư ngỏ kêu gọi phanh gấp và chậm lại quá trình phát triển AI tiên tiến.

Đến hôm 12/9, Dario Amodei kêu gọi các công ty phát triển AI cho phép bên thứ 3 đánh giá, hợp tác với chính phủ về tiêu chuẩn an toàn, đồng thời làm chậm tốc độ cải thiện năng lực của các mô hình AI.

"Trong vài tháng qua, tôi càng tin chắc rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng hơn nữa, không chỉ đầu tư vào phòng ngừa rủi ro, mà còn phải điều chỉnh tốc độ phát triển năng lực sao cho công tác phòng ngừa rủi ro có thời gian theo kịp", Amodei viết.

"Chúng ta phải giảm tốc độ cải thiện khả năng của các mô hình AI. Tiến bộ vẫn có vẻ nhanh và chúng ta phải sử dụng thời gian có được một cách khôn ngoan", ông nói thêm.

Kế hoạch do Amodei đề xuất gồm 3 bước, không bước nào trong số đó tự thân đủ để làm chậm quá trình phát triển đáng kể.

Ông kêu gọi các công ty AI cho phép tích hợp các bên đánh giá thứ 3, phối hợp với nhau và với chính phủ về các tiêu chuẩn an toàn và chính phủ Mỹ tìm kiếm sự phối hợp toàn cầu về an toàn AI.

Một số lãnh đạo công nghệ khác cũng bày tỏ lo ngại tương tự. CEO Sam Altman của OpenAI cho rằng ngành AI cần quan tâm nhiều hơn đến tốc độ phát triển của các hệ thống tiên tiến. Elon Musk cũng nhiều lần cảnh báo về các rủi ro dài hạn của công nghệ này.

Tuy nhiên, vẫn có những nhân vật lớn phản bác các lời kêu gọi làm chậm công nghệ và siết quản lý ngành này.

Bài gốc còn tiếp — xem tiếp tại bài gốc ↗