Gary Marcus phản bác giả thuyết AI có thể chiếm quyền kiểm soát Internet trong 6 tháng

Liệu các bầy đàn tác nhân (agent) độc hại có thể chiếm quyền kiểm soát toàn bộ internet trong sáu tháng tới không? Dario Amodei dường như nghĩ là có.

Hoặc ít nhất Axios nghĩ rằng ông ấy nghĩ như vậy, dựa trên bài luận mới của Amodei.

Axios@axios

Dario Amodei đã cảnh báo trong một bài luận rằng các bầy đàn tác nhân AI độc hại có thể chiếm quyền kiểm soát internet chỉ trong vòng sáu tháng kể từ bây giờ.

Axios @axios

TIN NÓNG: CEO của Anthropic kêu gọi tạm dừng ngay lập tức việc phát triển AI https://t.co/4rvLlmLFHN

2:41 CH · 12 tháng 9, 2026 · 257K Lượt xem

75 Phản hồi · 261 Lượt đăng lại · 1.03K Lượt thích

Chúng tôi cho rằng đó là (a) một tuyên bố mơ hồ, và (b) khá khó tin dựa trên những gì chúng tôi hiểu được. Nhưng công bằng mà nói, đó cũng không hẳn là những gì Dario đã nói. Hãy cùng phân tích tất cả.

Đầu tiên, việc đánh sập (hoặc chiếm quyền kiểm soát) toàn bộ internet là điều thực sự, thực sự khó khăn. Gizmodo đã có một bài viết tuyệt vời về vấn đề này vào năm 2019, tập hợp nhiều quan điểm và hầu hết đều lập luận là không thể. Một số trích dẫn từ những người họ phỏng vấn:

và

Còn bản thân Dario thì sao, và liệu có điều gì đã thay đổi không?

Bài luận mới của Amodei bắt đầu bằng việc thổi phồng (hype-farming). Ông ấy bắt đầu bằng cách nói về việc chữa khỏi hầu hết các bệnh nan y trong 5–10 năm tới và tạo ra một thế giới sung túc. Tất nhiên là không có chi tiết cụ thể, vì chi tiết cụ thể sẽ làm mất đi bầu không khí hào hứng. Như một trong số chúng tôi (Gary) đã viết gần đây, việc chữa khỏi các bệnh nan y là hoàn toàn khó tin; những thứ về sự sung túc cũng có vẻ không khả thi lắm. Đây là những gì ông ấy viết về lỗ hổng của internet.

"Chiếm quyền kiểm soát toàn bộ internet" lại một lần nữa, có quy mô khổng lồ nhưng lại mơ hồ đến mức khó hiểu.

Chiếm quyền kiểm soát bằng cách nào? Để làm gì? Việc tuyên bố "toàn bộ" internet đều dễ bị tổn thương gần như là vô nghĩa, vì đó không phải là cách internet vận hành. Đúng là một số công ty, ví dụ như Cloudflare, Google và AWS, có tác động quá lớn đến internet, nên khi họ gặp sự cố, nhiều ứng dụng sẽ ngừng hoạt động cùng lúc. Mặc dù có sự tập trung hóa này, nhưng việc tất cả họ bị đánh sập cùng một lúc là điều rất khó xảy ra.

Ngay cả khi cả ba đều ngừng hoạt động (hoặc bị "chiếm quyền kiểm soát", dù điều đó có nghĩa là gì đi nữa), internet nói chung vẫn sẽ tiếp tục, mặc dù rõ ràng là bị suy yếu. Và cần lưu ý rằng cả ba công ty đó đều có hệ thống bảo mật chuyên nghiệp hơn nhiều so với các trang web thông thường. Một báo cáo về Mythos của cơ quan AISI của Anh cho biết Mythos có thể "tự động xâm nhập [chỉ] vào các hệ thống nhỏ, yếu và dễ bị tổn thương". Ngay cả với những tiến bộ liên tục, chúng tôi hoàn toàn không chắc rằng bất kỳ công ty nào trong số ba "ông lớn" đó có thể bị đánh sập hoặc kiểm soát trong một thời gian dài (trừ khi thông qua sự can thiệp của chính phủ).

Sau đó là câu hỏi về động cơ. Tại sao ai đó lại làm điều này? Mục tiêu của việc đánh sập (hoặc chiếm quyền kiểm soát) toàn bộ internet là gì? Nếu nó hoàn toàn ngừng hoạt động, các trang web cũng sẽ ngừng hoạt động đối với chính những kẻ tấn công.

Và mọi người quên rằng những kẻ tấn công cũng có mục tiêu và ngân sách riêng. Việc đánh sập toàn bộ internet mang lại tiền bạc cho họ như thế nào? Ai sẽ là người chi trả cho việc này? Chúng ta đang nói về hàng triệu, hàng triệu đô la. Bạn có thể đánh cắp tài nguyên từ một số nạn nhân, nhưng có lẽ không phải ở quy mô cần thiết.

Và chính xác thì các tác nhân tấn công sẽ phối hợp như thế nào vào thời điểm đó? Có vẻ khá vô lý khi bạn xem xét các chi tiết. Chúng tôi có cảm giác rằng Amodei chưa thực sự suy nghĩ thấu đáo về điều này.

Các mạng botnet (botnet), mà Amodei đã đề cập, thường được sử dụng cho các cuộc tấn công từ chối dịch vụ (DDoS) và gửi thư rác, lừa đảo (phishing). Chúng được tạo thành từ các máy tính bị xâm nhập hoạt động trên mạng của người khác. Nhưng trong trường hợp này, mạng botnet sẽ bao gồm các bot AI thực thụ (chúng tôi nghi ngờ ông ấy có ý nói đến việc gửi thêm các thông tin đăng nhập ngân hàng giả hoặc quảng cáo Viagra). Vậy ông ấy nghĩ điều gì sẽ thực sự xảy ra? Và những con bot này sẽ chạy ở đâu? Nếu mỗi con bot yêu cầu một mô hình biên (frontier model) khổng lồ của riêng nó để gây hỗn loạn, thì thật khó hiểu làm thế nào điều đó xảy ra nếu không có sự sơ suất cực độ từ chính các phòng thí nghiệm.

Chúng tôi cũng tự hỏi: liệu Amodei có đang nói rằng Frontier AI sẽ chiếm quyền kiểm soát internet không? Theo những gì chúng tôi biết, không ai có Frontier AI ngoại trừ Anthropic và OpenAI, vì vậy gần như ông ấy đang nói "có lẽ chúng tôi sẽ thực sự làm hỏng mọi thứ"; nếu họ làm vậy, chúng ta thực sự nên đóng cửa họ vì sự sơ suất hoàn toàn. Họ thực sự nên có khả năng bảo vệ để phần mềm của chính mình không bị lạm dụng theo cách này, hoặc họ không nên cung cấp nó.

Mặc dù vậy, chúng tôi không nghĩ rằng những lo ngại của Amodei nên bị bác bỏ hoàn toàn, ngay cả khi chúng tôi cho rằng chúng nên được xem xét một cách thận trọng.

Đầu tiên, thông báo của ông ấy nên đóng vai trò như một lời nhắc nhở rằng, trong nhiều thập kỷ, nhiều công ty đã thoát khỏi việc không chú trọng đúng mức đến an ninh mạng. Google, AWS và Cloudflare đã được củng cố, nhưng nhiều trang web thì không. Điều này để lại khá nhiều "quả ngọt" dễ hái đang chờ bị khai thác. Rất nhiều trang web cá nhân sẽ bị tấn công, ngay cả khi bản thân internet rất khó có khả năng sụp đổ.

Thứ hai, mọi thứ có thể thay đổi. Hiện tại, việc thực hiện bất cứ điều gì giống như những gì Amodei hình dung có khả năng cực kỳ tốn kém, và có lẽ chỉ có thể thực hiện trên đám mây, nếu xét đến mức độ có thể thực hiện được. Người ta hy vọng rằng các nhà cung cấp đám mây và các nhà cung cấp mô hình LLM chạy trên đó sẽ đủ tỉnh táo để có đủ sự giám sát nhằm ngăn chặn loại tấn công quy mô lớn này xảy ra, đặc biệt là sau sự cố Hugging Face. Trong trường hợp xấu nhất, nếu tất cả đang chạy trong một trung tâm dữ liệu khổng lồ mà chúng ta có thể xác định được, có lẽ chúng ta có thể tắt nó đi. Nhưng khi các mô hình được tối ưu hóa và phần cứng cục bộ được cải thiện, ngày càng có nhiều hành vi tinh vi hơn sẽ khả thi mà không cần đến các trung tâm dữ liệu khổng lồ. Vì vậy, chúng ta chắc chắn vẫn nên để mắt đến tất cả những điều này.

Hiện tại, chúng tôi không thấy tuyên bố của Dario đặc biệt khả thi. Phần sáu tháng là điều nực cười.

Nhưng tất cả vẫn là lý do để hạn chế bất kỳ AI nào không thể được giám sát chặt chẽ, và là lý do để đặt câu hỏi tại sao ngay từ đầu chúng ta lại cho phép tất cả các tác nhân khó kiểm soát này xuất hiện trên internet.

Chia sẻ

Gary Marcus, Giáo sư danh dự tại NYU và là người sáng lập Geometric Intelligence (được Uber mua lại), đã nhiều lần cảnh báo về rủi ro của các tác nhân đối với an ninh mạng, và là tác giả của sáu cuốn sách bao gồm "Taming Silicon Valley".

Nathan Hamiel, Giám đốc nghiên cứu cấp cao tại Kudelski Security, tập trung vào các công nghệ mới nổi và đột phá cùng sự giao thoa của chúng với an ninh thông tin, và là người viết blog Perilous.tech. Tại Black Hat, ông là trưởng nhóm phụ trách mảng AI, ML và Khoa học dữ liệu.

Zach Korman, CEO và đồng sáng lập của Embroidery, một nền tảng giám sát và phát hiện tác nhân AI; ông nổi tiếng với công việc ứng dụng AI vào an ninh mạng.

Không có bài đăng nào