Geoffrey Hinton: Nguy cơ AI xóa sổ nhân loại lên tới 10%, thời hạn có thể chỉ còn dưới 10 năm

Theo tờ Business Insider, vào ngày 11 tháng 9 theo giờ Bắc Kinh, "cha đẻ của AI" Geoffrey Hinton cho biết rất khó để ước tính xác suất AI tiêu diệt toàn bộ nhân loại, nhưng xác suất này không phải là bằng không.

Trong cuộc phỏng vấn với chương trình Newsnight của BBC vào thứ Tư, Hinton nói: "Theo quan điểm của tôi, xác suất 10% có vẻ là một ước tính không quá vô lý, nhưng thực tế thì không ai biết làm thế nào để đưa ra một con số ước tính hợp lý cả."

Người dẫn chương trình Newsnight, Victoria Derbyshire, đã tỏ ra kinh ngạc trước điều này, vì Hinton về cơ bản đã đồng tình với nhận định của Jacob Coxon, một nhà nghiên cứu an toàn AI hàng đầu tại Anthropic. Nhà nghiên cứu này cho rằng trong vòng 10 năm tới, AI "có hơn 10% khả năng giết chết toàn bộ nhân loại".

"Wow," Derbyshire thốt lên, "Lạy Chúa tôi."

Hinton cho biết rất khó để ước tính xác suất cụ thể vì xã hội loài người chưa từng chứng kiến một công nghệ nào "có khả năng trở nên thông minh hơn chúng ta trong thời gian ngắn".

"Nếu nói chỉ có 1% xác suất thì thật là ngớ ngẩn," ông nói, "Không ai biết cách ước tính cả."

Vị chủ nhân giải Nobel này cho biết, điều chắc chắn là khoảng thời gian mà thảm họa này có thể xảy ra đã bị rút ngắn lại. "Trước đây tôi nghĩ là từ 30 đến 50 năm, sau đó rút ngắn xuống còn 10 đến 20 năm," ông chia sẻ, "Còn bây giờ, tôi nghĩ có thể là 10 năm, hoặc thậm chí ngắn hơn. Và những người khác còn cho rằng nó sẽ diễn ra nhanh hơn thế nhiều."

Về cách thức tình huống này có thể xảy ra, Hinton đã đề cập đến nhiều rủi ro khác nhau, từ các cuộc tấn công mạng cho đến việc AI phát triển ra các loại virus gây chết người. Mặc dù Hinton không giải thích lý do tại sao mốc thời gian này lại bị rút ngắn đáng kể, nhưng các công ty AI hàng đầu bao gồm Anthropic và OpenAI đã đầu tư hàng tỷ USD để mở rộng quy mô mô hình, và các sản phẩm họ vừa ra mắt gần đây đã cho thấy sự cải thiện đáng kể so với các mô hình từ vài tháng trước.

Trước khi Hinton đưa ra những phát biểu trên, nhà nghiên cứu Coxon của Anthropic đã tuyên bố từ chức ngay trước thềm đợt IPO rất được mong đợi của công ty này. Coxon, người từng làm việc tại OpenAI, cho biết các gã khổng lồ AI này đang "đánh cược với mạng sống của chúng ta".

"Những người phát triển AI thực sự tin rằng AI có thể giết chết tất cả chúng ta trước khi thập kỷ này kết thúc," Coxon viết trên X, "Đây không phải là chiêu trò tiếp thị. Nếu có gì khác biệt, thì đó là nhiều giám đốc điều hành và nhà nghiên cứu cấp cao thường dùng từ ngữ thận trọng trên truyền thông để nghe có vẻ lý trí, nhưng những gì tôi nghe được trong các cuộc trò chuyện riêng tư lại là nỗi sợ hãi từ chính những người đó."

Hinton cho biết nhân loại có thể đang đi trên con đường tự hủy diệt, hoặc cũng có thể tìm ra cách "đối phó với những nguy hiểm do AI mang lại" trong khi vẫn hiện thực hóa được tiềm năng của nó. Ông một lần nữa kêu gọi tăng cường quản lý toàn cầu và chỉ ra rằng mặc dù các quốc gia có thể không đồng thuận về mọi vấn đề, nhưng họ đều có chung mong muốn duy trì sự tồn tại của nhân loại.

"Đối với những vấn đề như ngăn chặn AI thay thế con người, lợi ích của các quốc gia là thống nhất. Vì vậy, cuối cùng họ sẽ hợp tác với nhau. Vấn đề là, liệu họ có thể hành động kịp thời hay không?" ông nói.