Gary Marcus kêu gọi tẩy chay AI tạo sinh: Hãy dừng ngay việc phát triển các hệ thống 'không thể sửa lỗi'

Đến nay đã rõ ràng rằng các phòng thí nghiệm tiên phong (frontier labs) đang cố tình thực hiện một điều gì đó không thể đảo ngược và cực kỳ nguy hiểm mà không có sự đồng thuận của công chúng, chính họ cũng đã thừa nhận điều này.

Họ đã và đang gây ra những tổn hại, và mọi thứ có thể trở nên tồi tệ hơn nhiều so với những gì chúng ta có thể hình dung.

Họ không có kế hoạch nghiêm túc nào để giảm thiểu các rủi ro từ AI tạo sinh (generative AI).

Chính phủ, vốn quá thân thiết với ngành công nghiệp này, cũng không có kế hoạch nào cả.

Đã đến lúc cần một cuộc tẩy chay từ công chúng.

Khi một nhân viên của Anthropic, Evan Hubinger, công khai viết điều này (với hơn 28 triệu lượt xem), thì đã đến lúc cần phải hành động:

Evan Hubinger@EvanHub

Jacob nói đúng đấy—chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại! Cá nhân tôi nghĩ xác suất đó là >10% trong thập kỷ tới. Tôi tin rằng Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch giải quyết vấn đề căn chỉnh (alignment) cho siêu trí tuệ và cũng chưa thực sự đi đúng hướng để làm điều đó.

Jacob Coxon @hilbertspaess

Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Đây không phải là một chiêu trò tiếp thị. Nếu có thì nhiều giám đốc điều hành và các nhà nghiên cứu cấp cao sẽ chọn lọc từ ngữ trên báo chí để nghe có vẻ hợp lý - nhưng tôi nghe chính những người đó bày tỏ nỗi sợ hãi.

1:27 sáng · 9 tháng 9, 2026 · 21,8 triệu lượt xem

3,13 nghìn lượt trả lời · 6,11 nghìn lượt đăng lại · 38,5 nghìn lượt thích

Vài ngày trước đó, nhà khoa học trưởng của OpenAI, Jakub Pachocki, đã viết một điều thẳng thắn và đáng lo ngại không kém về việc thiếu giải pháp cho "bài toán căn chỉnh" (alignment problem):

Một phần trong số này có thể chỉ là tiếp thị, và họ có thể phóng đại các rủi ro, nhưng những rủi ro đó là có thật và hiện không có kế hoạch nào cả.

Xin lưu ý rằng, tôi không quá lo lắng về sự tuyệt chủng. Và tôi nghĩ bạn cũng không nên như vậy. Như tôi đã viết năm ngoái trên tờ Times Literary Supplement, con người rất đa dạng về địa lý và di truyền, và có khả năng phục hồi rất cao. Nếu máy móc cố gắng chiếm quyền kiểm soát, chúng ta sẽ phản kháng; chúng ta có thể chịu thương vong nhưng sẽ không bị tiêu diệt hoàn toàn.

Tuy nhiên, nguy cơ thảm họa là có thật, ví dụ như từ các mầm bệnh do AI tạo ra, từ các cuộc chiến tranh bắt đầu hoặc leo thang do thông tin sai lệch từ AI, từ các vụ tấn công mạng phá hủy cơ sở hạ tầng trọng yếu, v.v.

Không có gì tôi thấy cho thấy bất kỳ điều nào trong số đó đang được kiểm soát.

Nói cách khác, p(doom) - xác suất diệt vong - của tôi thì thấp; nhưng p(dystopia) - xác suất về một xã hội phản địa đàng - của tôi thì cao.

Và đối với tôi, điều đó là đủ để cảm thấy vô cùng lo lắng, đặc biệt là khi đi kèm với việc thiếu một kế hoạch cụ thể.

Một lưu ý quan trọng khác dành cho những ai thích diễn giải sai lời tôi: theo quan điểm của tôi, vấn đề ở đây không phải là các cỗ máy hiện tại hay tương lai gần "quá thông minh"; mà là chúng quá thiếu tin cậy, và do đó không xứng đáng với sự tin tưởng của chúng ta. Tệ hơn nữa, chúng ta đang nhanh chóng trao cho những cỗ máy đó quá nhiều quyền lực để tác động đến thế giới. Chúng ta cần tạm dừng cho đến khi sự tin cậy và độ tin cậy có thể được đảm bảo.

Tôi không thấy lý do gì cho một lệnh cấm vĩnh viễn đối với AI, cũng như không cần lệnh cấm vĩnh viễn đối với siêu trí tuệ; tôi thực sự không nghĩ AI sẽ quét sạch con người khỏi trái đất. Và tôi vẫn giữ lại một chút tâm hồn của cậu bé mười tuổi trong mình, người tin rằng AI có thể là một lực lượng vì lợi ích tốt đẹp. Nếu các phòng thí nghiệm tiên phong chịu chấn chỉnh lại cách làm việc, chúng ta có thể dỡ bỏ lệnh cấm.

Nhưng đã đến lúc phải tạm dừng việc xây dựng (hoặc ít nhất là triển khai) thứ mà tôi gọi là AI không thể sửa đổi (incorrigible AI).

Với AI không thể sửa đổi, ý tôi là AI mà chúng ta không thể tin tưởng, hoặc theo thuật ngữ phổ biến là không thể "căn chỉnh" (align) theo các giá trị của con người.

Cho đến khi chúng ta có câu trả lời tốt hơn về mặt kỹ thuật và chính trị, chúng ta nên ngừng xây dựng những thứ như vậy và ngừng cho chúng truy cập vào internet.

Về mặt kỹ thuật, chúng ta cần AI có thể tuân theo các chỉ dẫn một cách đáng tin cậy và nhất quán. AI cổ điển, tất định (deterministic) làm được điều đó và không gây rắc rối cho chúng ta; không có công cụ tìm kiếm, công cụ gợi ý hay công cụ gợi ý lộ trình nào (lấy ba dạng AI cổ điển và được sử dụng rộng rãi) từng tự ý hack một trang web hay thoát khỏi môi trường sandbox một cách bất ngờ.

Loại AI nguy hiểm mà chúng ta đang đối mặt hiện nay là loại AI được xây dựng trên cốt lõi là các mô hình ngôn ngữ lớn xác suất (probabilistic large language models) không mang tính tất định. Chúng thường đúng một cách ngoạn mục, nhưng – vào những lúc khác, một cách khó đoán – lại sai lầm một cách khó hiểu và không bao giờ đáng tin cậy. Điều đó đúng vào năm 2022 khi ChatGPT ra mắt, và vẫn đúng cho đến tận bây giờ.

Bốn năm trước, tôi bắt đầu ví những thứ như vậy giống như những con bò tót trong cửa hàng đồ sứ ("mạnh mẽ, nhưng liều lĩnh và khó kiểm soát").

Ngày nay, chúng vẫn liều lĩnh và khó kiểm soát. Tệ hơn là chúng ta đã cho chúng truy cập vào internet; những tổn hại to lớn có thể đến từ đó.

Chúng ta không nhất thiết phải xây dựng AI theo cách hiện tại; không có quy luật cơ bản nào nói rằng chúng ta phải sử dụng các mô hình ngôn ngữ lớn (LLM). Nhưng việc sử dụng chúng làm công nghệ cốt lõi sẽ tạo ra những rủi ro dễ dàng dự đoán trước.

Chúng ta hoặc là phải tìm cách làm cho chúng đáng tin cậy hơn – nhưng chính ngành công nghiệp này cũng thừa nhận rằng họ không thực sự có cách đó – hoặc chúng ta cần quay lại vạch xuất phát và biến tính tất định thành sứ mệnh trọng tâm.

Việc đặt tất cả trứng vào một cái giỏ thất thường là một sai lầm.

Về mặt chính trị, thành thật mà nói tôi đã mất niềm tin vào chính phủ của chúng ta. Ba năm rưỡi trước khi tôi làm chứng tại Thượng viện Hoa Kỳ, tôi đã rất lạc quan. Các Thượng nghị sĩ thực sự có vẻ muốn làm điều gì đó. Nhưng không có gì đáng kể được đưa ra bỏ phiếu.

Trong khi đó, Nhà Trắng có một chính sách hoàn toàn mập mờ; họ có vẻ ngây thơ về mặt kỹ thuật khi cho phép GPT-6 Astra hoạt động, điều làm giảm khả năng giám sát (do đó có khả năng làm tăng rủi ro) mà không có sự phản hồi từ công chúng. Họ có vẻ quá thân thiết với OpenAI để có thể thực hiện hành động nghiêm túc. Điều đó có thể khiến họ phải trả giá cuối cùng nếu có bất cứ điều gì thực sự tồi tệ xảy ra, nhưng hiện tại họ dường như sẵn sàng chấp nhận rủi ro đó và không thể đưa ra một lập trường thực sự.

Thay thế từ "hiện sinh" (existential) bằng "thảm họa" (catastrophic), đây sẽ là một ý tưởng hay:

Điều này cũng vậy: