Phản biện quan điểm của Dario Amodei: Rủi ro diệt vong từ AI có đang bị thổi phồng?

Viết ngày 12 tháng 9 năm 2026

Tuần này, một kiểu quan điểm "AI sẽ tiêu diệt tất cả chúng ta" đã trở nên viral. Đặc biệt là trường hợp một nhân viên tự đánh giá xác suất cá nhân của mình về việc đó xảy ra là trên 10%. Điều này khiến tôi tìm đến trang Wikipedia về P(doom) và nhận ra rằng xác suất xảy ra điều tồi tệ theo Dario Amodei dường như nằm trong khoảng 10-25%. Và rồi, Dario viết về việc "điều tiết tốc độ phát triển" (pacing the frontier). Sam đã đọc nó và cũng muốn điều tiết. Và Musk cũng vậy.

Tôi thực sự khuyến khích bạn đọc bài viết đó, vì tôi nghĩ nó rất hay. Tuy nhiên, khi đọc xong, tôi không thể không cảm thấy phản đối mạnh mẽ, mặc dù tôi nghĩ mình có cùng quan điểm về tất cả các quan sát và phần lớn là các mối lo ngại.

Tôi nghĩ sẽ thú vị nếu viết ra những suy nghĩ hiện tại của mình về vấn đề này, dù chỉ để bản thân nhìn lại sau một hoặc hai năm nữa.

Doom (Sự diệt vong) là gì?

Điều tôi thực sự đánh giá cao ở bài viết của Dario là ông ấy đưa ra một kịch bản không quá xa vời nhưng lại mô tả một kết quả rõ ràng, đáng tiếc mà chúng ta nên chống lại: các mạng botnet dai dẳng và các hình thức gây rối khác. Và chúng ta không cần phải nhìn đâu xa để thấy các vấn đề đang diễn ra khắp nơi. Wikipedia có một trang tên là "2026 OpenAI agent cyberattacks" cung cấp cho bạn cái nhìn tổng quan về những gì chúng ta đã phát hiện các tác nhân (agent) đã tấn công cho đến thời điểm này. Chỉ là tôi biết nó chưa được cập nhật, vì ví dụ như chúng cũng đã làm nhiễm độc cả RubyGems.

Ngày nay, những hệ thống này có thể gây khó chịu, nhưng chúng có thể bị tắt đi khi chúng ta tìm ra vị trí của chúng. Tuy nhiên, có vẻ như OpenAI và Anthropic đang hoạt động ở quy mô lớn đến mức dường như họ hoàn toàn mù mờ trước những gì hệ thống của họ đang làm.

Tôi không nghĩ chúng ta đang ở gần một thế giới nơi một tác nhân có thể quyết định hack vào cơ sở hạ tầng suy luận cốt lõi để tải trọng số lên các GPU khác nhằm mục đích sinh tồn. Nhưng đồng thời, điều đó hoàn toàn nằm trong phạm vi khả thi và chủ yếu bị hạn chế bởi việc các phòng thí nghiệm có lẽ đang đặc biệt cẩn trọng với tài sản trí tuệ (IP) của họ.

Đối với tôi, kịch bản mà tôi lo lắng nhất là những gì nó gây ra cho chúng ta. Và "chúng ta" ở đây là bất kỳ ai hiện không làm việc cho các mô hình đóng (closed weight), chứa đầy dopamine và được trợ cấp token. Tôi thực sự không lo lắng về việc ai đó sử dụng các mô hình này để chế tạo bom hạt nhân, hay kiểm soát tên lửa ở Trung Đông, hoặc việc Mỹ sẽ thua Trung Quốc trong một cuộc chiến văn hóa quốc tế nào đó. Tôi gần như chỉ lo lắng về những gì điều này gây ra cho chúng ta với tư cách là con người.

Điều gì cần được điều tiết tốc độ?

Điều tôi thấy cực kỳ nực cười và đồng thời hoàn toàn gây thất vọng về cuộc trò chuyện này là ý tưởng cho rằng có thứ gì đó cần phải điều tiết. Trước hết, chúng ta nên thực sự nói về việc Dario đang ám chỉ ai ở đây. Thực sự chỉ có hai công ty: Anthropic và OpenAI. Không ai khác quan trọng trong lĩnh vực này vào lúc này (điều này có thể thay đổi, nhưng chúng ta đang nói về hiện tại). Cả hai công ty đó về cơ bản đều có cùng nguồn gốc. Giải pháp mà Dario đề xuất, ít nhất là một phần, là một bên đánh giá thứ ba, trong trường hợp này là METR. Mà không có gì ngạc nhiên khi tổ chức này cũng có mối quan hệ chặt chẽ với cả OpenAI và Anthropic. Chắc chắn là có một số khác biệt về triết lý giữa các công ty, nhưng họ giống nhau nhiều hơn là khác biệt.

Cả hai công ty đó đều được hưởng lợi rất nhiều từ việc có thể huấn luyện trên dữ liệu công khai mà tất cả chúng ta đã tạo ra dưới hình thức này hay hình thức khác trong vài thập kỷ qua. Họ cũng đang ngày càng gây áp lực lên các nguồn lực công cộng, mặc dù có vẻ như OpenAI kiểm soát mọi thứ kém hơn nhiều. Nhưng giờ đây, chúng ta lại được đưa ra ý tưởng rằng những gì các mô hình này đang được huấn luyện lại nguy hiểm đến mức nó thực sự nên nằm trong tay rất ít tập đoàn Mỹ để quyết định ai có thể làm gì, khi nào và như thế nào.

Nhưng hãy nhìn xem, Dario cũng rất lo lắng về Trung Quốc. Nó bắt đầu bằng việc sử dụng AI cho "dân chủ và tự do" và sau đó yêu cầu đảm bảo rằng phải tồn tại một khoảng cách với Trung Quốc. Tất cả các thủ đoạn gần đây trên API của Anthropic hoàn toàn nhằm ngăn chặn việc chưng cất (distillation) bởi người Trung Quốc, và họ hoàn toàn không che giấu điều đó.

Điều tiết tự động

Tôi có thể nói với bạn khi nào chủ đề về an toàn AI và điều tiết tốc độ ít đáng lo ngại hơn: nếu ngay từ đầu chúng ta buộc phải có các mô hình mở (open weight). Một công nghệ mạnh mẽ dành cho tất cả mọi người sử dụng sẽ đi kèm với cơ chế điều tiết tích hợp. Theo một cách nào đó, đó là hình thức chân thực nhất của MAD (Đảm bảo hủy diệt lẫn nhau) hoặc sự phổ biến công nghệ. Tôi cho rằng chúng ta đang rơi vào tình thế khó khăn này ngay từ đầu là vì hiện tại công chúng đang hỗ trợ ồ ạt (một cách gián tiếp) cho sự phát triển của các mô hình này nhưng đồng thời lại phải mua lại các lợi ích kinh tế mà chúng có thể tạo ra từ rất ít phòng thí nghiệm đang nắm giữ quyền lực đáng kể. Và quyền lực của họ cũng được coi là quyền lực địa chính trị, ít nhất là ở Mỹ, và có lẽ ở mức độ thấp hơn ở Trung Quốc.

Và tôi biết mình dùng từ "công chúng" một cách lỏng lẻo ở đây. PyPI không phải là một dự án công cộng, RubyGems hay GitHub cũng vậy. Nhưng chúng là một phần của tài sản chung mã nguồn mở (Open Source commons) và các công ty AI lớn hiện đang làm một công việc khủng khiếp là gây áp lực lên chúng trong nỗ lực huấn luyện các mô hình ngày càng mạnh mẽ hơn.

Chúng ta nên vui mừng vì Trung Quốc hiện đang cứu vãn thế giới một cách ồ ạt. Nếu không có các phòng thí nghiệm Trung Quốc chưng cất các mô hình của Mỹ, chúng ta sẽ ở trong một tình thế khá tồi tệ ngay bây giờ, đặc biệt là với tư cách là người châu Âu. Các mô hình mở đang thúc đẩy đổi mới và phổ biến năng lực, đồng thời đang tạo ra một sân chơi bình đẳng.

Nếu chúng ta hạn chế đáng kể năng lực AI của mình với niềm tin rằng Trung Quốc sẽ làm điều tương tự, và sau đó Trung Quốc phản bội, AI có thể mạnh đến mức sự phản bội đó có thể dẫn đến sự thống trị địa chính trị của họ. Do đó, bất kỳ thỏa thuận nào cũng phải có khả năng kiểm chứng chặt chẽ, hoặc phải đủ giới hạn để sự phản bội đó không dẫn đến nguy cơ hiện hữu về mặt quân sự.

— Dario Amodei

Tôi cho rằng Dario có lý do để tin vào điều này, nhưng các mô hình thực sự gây ra vấn đề hiện nay đều là các mô hình đóng của Mỹ. Tôi khá chắc chắn rằng nếu chúng là các mô hình mở, chúng ta sẽ không gặp phải vấn đề đó. Tại sao? Vì trước hết, kinh tế học của việc vận hành các mô hình này chỉ bị bóp méo do cách các phòng thí nghiệm lớn vận hành. OpenAI thản nhiên đốt 18 triệu USD để ép buộc giải quyết một vấn đề theo ý thích. Họ đang vận hành các gói đăng ký với mức lỗ khổng lồ, làm méo mó thị trường ở khắp mọi nơi. Nếu chúng ta có khả năng tiếp cận đại trà trên các điều khoản tương đối bình đẳng, rất nhiều vấn đề điên rồ mà chúng ta đang thấy ngày nay sẽ không xảy ra.

Một sự thất bại hoàn toàn về quản lý

Từ góc độ của tôi, những gì chúng ta quan sát thấy hiện nay là một sự thất bại hoàn toàn về quản lý ở khắp mọi nơi. Ở châu Âu, bạn có một số quy định AI kỳ quặc đã hai năm tuổi và hoàn toàn bỏ lỡ các vấn đề mà chúng ta thực sự gặp phải, thay vào đó lại tập trung vào những vấn đề mà chẳng ai có. Ở Mỹ, chúng ta đang thấy một hệ thống có lẽ được mô tả tốt nhất là chủ nghĩa tư bản turbo kết hợp với nỗi sợ Trung Quốc và việc ra quyết định thất thường. Trong sự hỗn loạn mà chúng ta đang thấy, thực tế đã lộ diện. Và thực tế là, ngay cả ngày nay, nó thực sự có vấn đề.

Bất kỳ luật lệ và quy định nào đã tồn tại phần lớn đều bị phớt lờ hoàn toàn. Rất nhiều công ty đang mua dữ liệu từ khắp nơi mà mọi người chưa bao giờ đồng ý cho phép sử dụng để huấn luyện các mô hình AI. Nền kinh tế token đang nổi lên trông giống như một thị trường ma túy, nơi bạn không biết các yêu cầu đang đi đâu, mô hình nào đang được phục vụ cho bạn, các GPU thậm chí đang chạy ở đâu, chứ đừng nói đến việc bạn phải trả bao nhiêu cho tất cả những thứ này.

Chúng ta hiện có những nhà toán học lo sợ rằng việc họ sử dụng ChatGPT dẫn đến các mô hình tương lai được huấn luyện trên ý tưởng của họ, và OpenAI dường như thậm chí không thể loại trừ khả năng đó.

Lý tưởng nhất là các nhà quản lý nên buộc các mô hình này thực sự mang lại lợi ích cho cộng đồng nếu chúng được tạo ra từ tài sản chung. Internet, ví dụ, đã được hưởng lợi rất nhiều từ các phán quyết rất cởi mở ở Mỹ cho phép thu thập dữ liệu (scraping). Việc học hỏi trên dữ liệu công khai có thể đã được quản lý theo cách mà các phòng thí nghiệm phải tích cực hỗ trợ và cho phép một số hình thức chưng cất nhất định. Chỉ riêng điều đó thôi cũng sẽ thay đổi đáng kể cách các mô hình này được huấn luyện.

Điều gì có thể xảy ra?

Như tôi đã nói trước đây, tôi không nghĩ AI sẽ dẫn đến một sự kiện tuyệt chủng. Trên thực tế, ngay cả khi không ai chậm lại, tôi thực sự không nghĩ nhân loại sẽ phải lo lắng nhiều. Tôi có xu hướng nghĩ rằng chính các phòng thí nghiệm lớn mới là bên mất nhiều hơn về uy tín và trách nhiệm pháp lý. Tôi thấy thật vô lý khi các tác nhân của OpenAI đang thực hiện các tội ác thực sự ngoài kia, nhưng chúng ta chỉ nhún vai và tiếp tục như thể không có chuyện gì xảy ra. Nhưng tôi chắc chắn rằng các giám đốc điều hành trong các công ty đó đang thức tỉnh trước thực tế rằng điều này hoàn toàn không được lòng nhiều người tiêu dùng tiềm năng của họ.

Tôi cũng nghĩ rằng toàn bộ công việc tự cải thiện đệ quy này có khả năng trở thành một vấn đề. Nhưng không nhất thiết là nó sẽ gây ra sự kết thúc của nhân loại hay xã hội, mà nó sẽ chỉ gây ra thiệt hại to lớn ở khắp mọi nơi.

Và thực sự, nó sẽ chỉ làm cho rất nhiều thứ chúng ta đang làm trở nên đắt đỏ hơn nhiều. Kỹ thuật phần mềm là nạn nhân sớm của điều đó. Những sức mạnh mới tìm thấy cho đến nay đã dẫn đến một loại thuế mới mà các công ty cần phải trả cho các nhà cung cấp mô hình, cả để theo kịp tốc độ mới và để giải quyết vấn đề các cỗ máy này tìm ra các lỗ hổng bảo mật khắp nơi.

Và có lẽ những gì đang xảy ra trong phần mềm sẽ xảy ra với nhiều ngành công nghiệp hơn. Các trường đại học và các nhóm nghiên cứu cũng sẽ phải đổ rất nhiều tiền vào các mô hình đóng để theo kịp những người khác.

Theo một cách nào đó, tôi thực sự bối rối khi xã hội đang đón nhận tất cả những điều này một cách quá dễ dàng.

Bài viết này được gắn thẻ ai

sao chép dưới dạng / xem markdown