Gary Marcus cảnh báo về AI: Góc nhìn từ Terence Tao và cựu nhân viên Anthropic

Vào mùa thu năm 2024, Terence Tao, có lẽ là nhà toán học đáng kính nhất còn sống, đã rất háo hức muốn tìm hiểu xem AI có thể và không thể làm được những gì. Mặc dù ông từng hoài nghi về mô hình o1 vừa ra mắt lúc bấy giờ, ông vẫn lạc quan về một tương lai nơi con người và máy móc cùng tồn tại. Matteo Wong đã có một cuộc phỏng vấn tuyệt vời với Tao về vấn đề này trên tờ The Atlantic:

Wong đã trao đổi qua điện thoại với Tao và tóm tắt sự cởi mở của ông đối với những tương lai mới như sau:

Gần đây, như tôi đã lưu ý trong một bài viết trên Substack vào tháng 8, Tao đã bắt đầu đặt ra những câu hỏi. Vào cuối tháng 7, ông đã có một bài giảng xuất sắc, trong đó có nội dung này nằm trong các slide trình bày của ông.

Rõ ràng là ông đã suy nghĩ về điều này kể từ đó. Đến nay, có thể thấy rõ quan điểm của ông đã thay đổi một cách triệt để.

Ba bài đăng của ông trong hai ngày qua đã minh chứng cho điều đó:

Bài đầu tiên (hôm qua) lưu ý rằng việc giải các câu đố không giống với việc đưa ra những hiểu biết mới:

Bài thứ hai (cũng vào hôm qua) xét trên một số khía cạnh là một lập luận về gu thẩm mỹ trí tuệ tốt, đồng thời bày tỏ những lo ngại sâu sắc về hậu quả của AI đối với toán học.

Đó cũng là một lời kêu gọi về sự minh bạch:

Bài cuối cùng (tất cả đều xuất hiện trên mathstodon) được đăng hôm nay và dường như ám chỉ đến vụ tranh cãi Navier-Stokes giữa OpenAI-NYU-Anthropic, trong đó OpenAI đã vội vã "nẫng tay trên" Alpöge và Buckmaster, chi ra 22,5 triệu đô la trong quá trình này, có khả năng là đã sử dụng dữ liệu của họ. (Bằng những từ ngữ mơ hồ, né tránh, OpenAI đã viết rằng “chúng tôi không thể loại trừ khả năng dữ liệu đã được ẩn danh bắt nguồn từ việc họ sử dụng các sản phẩm của chúng tôi đã giúp cải thiện các mô hình của mình.”)

Tao bắt đầu bằng việc thảo luận lại về vấn đề gu thẩm mỹ trí tuệ tốt như một tiền đề. Là một nhà khoa học từng làm việc trong các lĩnh vực khác, tôi hoàn toàn đồng cảm với cách đặt vấn đề mở đầu của ông.

Câu cuối cùng đó thực sự là một lời cảnh báo nghiêm trọng về một thế giới có khả năng trở nên bi kịch.

Và quả thực, như Tao ngụ ý, sẽ có những hệ lụy trong các lĩnh vực khác nữa.

Làm sao AI có thể “chữa khỏi” ung thư nếu không ai tin tưởng các công ty AI sẽ không đánh cắp sở hữu trí tuệ (IP) của họ. Những lời này từ Giám đốc Nghiên cứu của OpenAI khó mà khiến người ta yên tâm:

Mark Chen@markchen90

Cần phân biệt hai điều: Có con người hay tác nhân nào xem dữ liệu người dùng như một phần của nỗ lực Navier Stokes không? Không. Chúng tôi có sử dụng phản hồi của người dùng và dữ liệu đã ẩn danh để cải thiện ChatGPT và Codex một cách tổng thể không? Có. Và mọi công ty LLM đều làm như vậy.

levent @__alpoge__

“chúng tôi không thể loại trừ khả năng dữ liệu đã được ẩn danh bắt nguồn từ việc họ sử dụng các sản phẩm của chúng tôi đã giúp cải thiện các mô hình của mình.” ý tôi là, khen ngợi họ vì đã thẳng thắn thừa nhận. (cho đến nay bằng chứng có vẻ giống với một bằng chứng khác về sự bùng nổ euler mà chúng tôi từng có, dựa trên cách đặt tên ansatz mà chúng tôi đã...)

7:02 CH · 8 thg 9, 2026 · 227K Lượt xem

293 Lượt trả lời · 53 Lượt đăng lại · 1,28K Lượt thích

Như tôi đã lưu ý

Tôi không biết giải pháp ở đây là gì. Nhưng tôi vô cùng hy vọng rằng những cảnh báo của Terence Tao về việc tất cả những điều này có thể tác động đến khoa học như thế nào sẽ được lắng nghe.

Ngay khi tôi vừa viết xong, thông tin này vừa được gửi đến từ Jacob Coxon, người vừa rời khỏi Anthropic.

Tôi không thấy nó thuyết phục lắm, và nó tập trung vào những tác hại trong tương lai với quá ít thảo luận về những tác hại hiện tại, nhưng nó đang lan truyền như cháy rừng và rất đáng đọc.

Tôi tình cờ không đồng ý với anh ấy về mặt thời điểm, và tôi cho rằng Coxon đang phóng đại những gì AI có khả năng làm trong tương lai gần, nhưng dù sao đi nữa, đây vẫn là một góc nhìn trực diện gây hoang mang (và có cơ sở) về những quá trình tư duy nguy hiểm và tự mãn một cách lộ liễu tại hai trong số các phòng thí nghiệm tiên phong hàng đầu:

Trưởng bộ phận Khoa học Căn chỉnh (Alignment Science) của Anthropic đã viết điều này

Evan Hubinger@EvanHub

Jacob nói đúng ở đây—chúng tôi thực sự tin rằng AI có thể giết chết tất cả con người! Cá nhân tôi nghĩ khả năng đó là >10% trong thập kỷ tới. Tôi tin rằng Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch giải quyết vấn đề căn chỉnh cho siêu trí tuệ và rõ ràng là chưa đi đúng hướng.

Jacob Coxon @hilbertspaess

Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Đây không phải là một chiêu trò tiếp thị. Nếu có thì nhiều giám đốc điều hành và nhà nghiên cứu cấp cao sẽ diễn đạt khéo léo trên báo chí để nghe có vẻ hợp lý - nhưng tôi nghe chính những người đó bày tỏ nỗi sợ hãi.

1:27 SA · 9 thg 9, 2026 · 37,6K Lượt xem

45 Lượt trả lời · 53 Lượt đăng lại · 516 Lượt thích

Tôi không thể nói rằng mình thấy điều này an tâm chút nào.

Mặc dù tôi không nghĩ sự tuyệt chủng là điều dễ xảy ra, nhưng tác hại thảm khốc chắc chắn là có thể, và rõ ràng là không ai có một kế hoạch nghiêm túc cả. Việc phân định xem “ai đến đích trước” có lẽ khá vô nghĩa nếu những người khác cũng sẽ sớm theo sau.

Có lẽ điều duy nhất thực sự có thể giúp ích ở đây về mặt kỹ thuật là một nền tảng khác thay vì LLM (vốn vẫn tỏ ra hoàn toàn không thể sửa đổi) và dường như không công ty nào coi trọng quan điểm đó.