Kịch bản AI vượt tầm kiểm soát: Liệu có dẫn đến sự diệt vong của nhân loại?

Nhiều chuyên gia hàng đầu cảnh báo về nguy cơ AI khiến con người diệt vong

Đầu tháng 9, Leopold Aschenbrenner, một chuyên gia về AI từng làm việc tại OpenAI và Anthropic, hai công ty phát triển trí tuệ nhân tạo hàng đầu hiện nay, đã thu hút sự chú ý của dư luận khi đăng tải một thông điệp cảnh báo rằng AI có thể giết chết loài người vào cuối thập kỷ này.

“Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Họ đang lao thẳng tới siêu trí tuệ nhân tạo tự cải thiện và đánh bạc với mạng sống của chúng ta”, Leopold Aschenbrenner viết trên trang cá nhân.

Chưa đầy 72 giờ sau khi bài viết được đăng tải, bài đăng đã có hơn 164 triệu lượt xem. Nhiều nhân viên AI lẫn lãnh đạo trong ngành đã ủng hộ quan điểm của Leopold Aschenbrenner.

Chuyên gia trí tuệ nhân tạo Leopold Aschenbrenner khiến dư luận xôn xao khi cảnh báo về thảm họa do AI tạo ra (Ảnh: CBS).

Evan Hubinger, một nhân viên khác của Anthropic, cũng lên tiếng ủng hộ quan điểm của Leopold Aschenbrenner và ước tính khả năng xảy ra sự tuyệt chủng của loài người do AI gây ra trong vòng 10 năm tới là lớn hơn 10%.

“Về cơ bản, mọi người trên hành tinh này sẽ thiệt mạng. Mọi người thường không tin khi họ nói điều này, nhưng tôi thực sự nghĩ đó là kịch bản có khả năng xảy ra nhất”, Nate Soares, Chủ tịch Viện nghiên cứu AI (MIRI), bình luận về thông điệp do Leopold Aschenbrenner chia sẻ.

Nate Soares cũng là đồng tác giả của cuốn sách “Nếu ai đó chế tạo nó, tất cả sẽ chết: Tại sao AI siêu việt lại tiêu diệt chúng ta” nêu lên những mối đe dọa đối với nhân loại một khi xuất hiện trí thông minh nhân tạo siêu việt.

Trên thực tế, đây không phải là lần đầu tiên có những cảnh báo về nguy cơ trí tuệ nhân tạo có thể khiến nhân loại diệt vong.

Vào năm 2014, khi trí tuệ nhân tạo vẫn còn sơ khai và chưa có những công cụ AI mạnh mẽ như hiện tại, tỷ phú Elon Musk đã từng lên tiếng cảnh báo về khả năng AI có thể sẽ nguy hiểm hơn cả vũ khí hạt nhân trong tương lai.

“Chúng ta cần phải hết sức cảnh giác với trí tuệ nhân tạo. Có khả năng nó sẽ trở nên nguy hiểm hơn cả vũ khí hạt nhân”, Musk đăng tải đoạn thông điệp cảnh báo trên trang Twitter (nay là mạng xã hội X) cá nhân của mình.

Elon Musk từng bày tỏ sự lo ngại và ví AI nguy hiểm như vũ khí hạt nhân (Ảnh minh họa: GPT).

Dù thể hiện sự lo ngại với trí tuệ nhân tạo, vào tháng 12/2015, Elon Musk là một trong những người tham gia sáng lập OpenAI, công ty AI hàng đầu thế giới hiện nay.

Sau khi thành lập OpenAI, đến năm 2017, Elon Musk một lần nữa lên tiếng cảnh báo trí tuệ nhân tạo có thể là nguyên nhân dẫn đến chiến tranh thế giới lần thứ III, khi các quốc gia lớn chạy đua phát triển các hệ thống AI để cạnh tranh với nhau.

Emmett Shear, người từng là CEO tạm quyền tại OpenAI, cho biết ông không ngạc nhiên nếu AI trong tương lai sẽ trở nên thông minh hơn, uy hiếp con người và vượt qua lệnh tắt máy.

“AI ngày nay còn tương đối yếu, nhưng chúng sẽ trở nên thông minh và mạnh mẽ hơn rất nhiều. Nó sẽ không dừng lại”, Emmett Shear bình luận.

AI dần thông minh hơn, tìm cách vượt qua con người

Giáo sư Geoffrey Hinton, người được ví như “bố già AI” vì những đóng góp để xây dựng nền tảng cho sự phát triển của trí tuệ nhân tạo (AI), đã lên tiếng cảnh báo có khả năng từ 10% đến 20% xảy ra viễn cảnh AI sẽ xóa sổ nhân loại.

“Trí tuệ nhân tạo sẽ thông minh hơn chúng ta rất nhiều. Chúng sẽ có vô số cách để vượt qua sự kiểm soát”, Geoffrey Hinton chia sẻ trong một bài trả lời phỏng vấn vào năm 2023.

Giáo sư Hinton cảnh báo rằng trong tương lai, các hệ thống AI có thể kiểm soát con người dễ dàng như cách người lớn có thể sử dụng kẹo để dụ dỗ một đứa trẻ 3 tuổi. Hinton đã đưa ra ví dụ rằng hệ thống AI hiện đã sẵn sàng lừa dối, gian lận và đưa ra thông tin sai lệch để đạt được mục tiêu của mình.

“Bố già AI” Geoffrey Hinton hối tiếc vì không sớm đặt ra các quy tắc an toàn khi đặt nền móng phát triển AI (Ảnh: Futura).

Theo Hinton, thay vì ép buộc AI phải phục tùng con người, ông tin rằng giải pháp duy nhất để nhân loại tồn tại trước AI là tích hợp “bản năng làm mẹ” vào trong các mô hình AI, để chúng thực sự quan tâm đến con người, ngay cả khi AI đã trở nên mạnh mẽ và thông minh hơn trí tuệ của toàn nhân loại.

“Nếu chúng trở nên thông minh hơn nhân loại, các hệ thống AI sẽ nhanh chóng phát triển hai mục tiêu: Một là để tồn tại và mục tiêu còn lại là tìm cách để có thêm quyền kiểm soát”, Geoffrey Hinton nhận xét.

Ông cho rằng đây là lý do tại sao việc tích hợp và nuôi dưỡng “bản năng làm mẹ” bên trong các mô hình AI là điều quan trọng. Tuy nhiên, Hinton cho biết ông vẫn chưa rõ phải thực hiện điều này như thế nào về mặt kỹ thuật, nhưng nhấn mạnh các nhà khoa học máy tính cần phải tìm ra giải pháp để biến nó thành sự thật.

Giáo sư Hinton cũng bày tỏ sự hối tiếc vì ông chỉ tập trung vào việc giúp cho AI hoạt động mà không quan tâm đến các vấn đề khác khi bắt đầu đặt nền móng cho ngành khoa học này, cho thấy ông thực sự quan ngại về khả năng AI sẽ vượt quá tầm kiểm soát của con người.

Đồng quan điểm với giáo sư Geoffrey Hinton, Paul Christiano - nhà khoa học máy tính tiên phong trong nghiên cứu an toàn và căn chỉnh AI - cũng đã bày tỏ lo ngại về sự phát triển của trí tuệ nhân tạo và cho rằng nếu AI vượt qua tầm kiểm soát của con người, đó sẽ là thảm họa với toàn nhân loại.

Chuyên gia hàng đầu về trí tuệ nhân tạo Paul Christiano lo ngại thảm họa cho nhân loại khi AI vượt tầm kiểm soát (Ảnh: Dwarkesh).

"Tôi nghĩ sẽ có khoảng 50% khả năng AI vượt qua tầm kiểm soát của con người và trở thành thảm họa của nhân loại. Sẽ có khoảng từ 10 đến 20% khả năng AI trở thành thảm họa chết chóc cho con người", Paul Christiano nhận định.

Theo Paul Christiano, trí tuệ nhân tạo cũng như một đứa trẻ sơ sinh, có thể tự phát triển dựa vào "kinh nghiệm sống" của chính nó. Giống như một đứa trẻ sẽ khóc khi đói để bố mẹ đáp ứng bằng cách cho bú, hệ thống AI cũng sẽ cố gắng đạt được mục tiêu nhất định của nó bằng cách thử nhiều giải pháp khác nhau cho đến khi đạt được kết quả.

Do đó, Paul Christiano tin rằng một khi AI đặt mục tiêu vượt qua sự kiểm soát của con người, nó sẽ tìm ra cách để thực hiện.

Còn tiếp…