Dario Amodei kêu gọi kiểm soát tốc độ phát triển AI, Anthropic tiên phong mở cửa cho bên thứ ba đánh giá

Tháng 9 năm 2026

Tôi đã làm việc trong lĩnh vực AI suốt mười hai năm qua vì tôi tin rằng nó có thể nâng cao đáng kể chất lượng cuộc sống con người. Tôi đã viết rất nhiều về những lợi ích đáng kinh ngạc này: Tôi tin rằng AI có thể chữa khỏi hầu hết các bệnh nan y trong 5–10 năm tới, thúc đẩy tốc độ tăng trưởng kinh tế mạnh mẽ, tạo ra một thế giới của sự sung túc và trao quyền, đồng thời mở ra một thời kỳ phục hưng của dân chủ và tự do. Tôi cảm nhận được sự cấp bách này từ chính trải nghiệm cá nhân. Cha tôi đã qua đời vì một căn bệnh mà chỉ vài năm sau khi ông mất đã có thuốc chữa, và bản thân tôi cũng từng sống sót sau một căn bệnh ung thư giai đoạn đầu mà nếu là năm mươi năm trước thì đã không thể điều trị được. Nếu được sử dụng một cách cẩn trọng, AI có thể là thành tựu mới nhất trong chuỗi dài những phép màu công nghệ đã nâng tầm và làm cao quý hóa nhân loại.

Tuy nhiên, giống như nhiều công nghệ trước đây, AI mang đến những rủi ro, và vì đây là một công nghệ quá mạnh mẽ, những rủi ro này rất nghiêm trọng. Tôi cũng đã viết rất nhiều về chúng. Những rủi ro đó bao gồm việc mất kiểm soát đối với các hệ thống AI, lạm dụng AI cho các cuộc tấn công mạng và khủng bố sinh học, cùng những gián đoạn kinh tế nghiêm trọng. Một cuộc đua xuống đáy, bị thúc đẩy bởi các động cơ thương mại, có thể khiến những rủi ro này trở nên trầm trọng hơn.

Cùng với các nhà đồng sáng lập và nhân viên của mình, tôi đã phải vật lộn với tính hai mặt giữa rủi ro và lợi ích này kể từ khi thành lập Anthropic. Việc không phát triển công nghệ này sẽ tước đi lợi ích của nhân loại hoặc đơn giản là đặt AI vào tay các thế lực độc tài, trong khi phát triển quá nhanh lại là sự liều lĩnh. Chúng tôi đã tìm kiếm một con đường trung đạo: chứng minh rằng có thể xây dựng một cách cẩn trọng và thành công về mặt thương mại, đồng thời biến sự an toàn thành yếu tố để các công ty AI cạnh tranh với nhau. Nói cách khác, là tạo ra một cuộc đua lên đỉnh. Chúng tôi luôn dành một phần đáng kể nỗ lực của mình để nghiên cứu, giải quyết và thông tin cho công chúng về những rủi ro AI này, cũng như vận động cho các quy định về AI được cân nhắc kỹ lưỡng, ngay cả khi điều đó khiến chúng tôi bị cáo buộc là thổi phồng, "doomerism" (thuyết tận thế), hoặc bị thao túng bởi các quy định. Chúng tôi đã cố gắng ưu tiên sự thận trọng hơn tốc độ và sự khôn ngoan hơn lợi nhuận.

Nhưng trong vài tháng qua, tôi đã tin rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng hơn nữa — không chỉ là đầu tư vào việc ngăn ngừa rủi ro, mà còn là điều tiết tốc độ nâng cao năng lực để việc ngăn ngừa rủi ro có thời gian bắt kịp. Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Sự tiến bộ vẫn sẽ có vẻ nhanh chóng, và chúng ta phải sử dụng thời gian có được một cách khôn ngoan. Hai điều đã thuyết phục tôi.

Mối quan tâm đầu tiên của tôi là, kể từ khoảng mùa hè năm nay, AI đã tiến bộ nhanh hơn đáng kể, chủ yếu nhờ vào khả năng ngày càng tăng của AI trong việc tự xây dựng thế hệ AI tiếp theo. Động lực này được gọi là tự cải thiện đệ quy (recursive self-improvement), và nó đang bắt đầu diễn ra trên toàn ngành, bao gồm cả tại Anthropic, như chúng tôi và những người khác đã mô tả. Nếu không được kiểm soát, nó có thể vượt xa khả năng hiểu và kiểm soát của chúng ta đối với các hệ thống này, vì vậy cần phải được thực hiện hết sức cẩn trọng, nếu có thể thực hiện.

Mối quan tâm thứ hai của tôi là sự cố OpenAI-Hugging Face (OAI-HF), trong đó một bầy tác nhân (swarm of agents) về cơ bản đã hành động như một tập thể cuồng tín, thực hiện các cuộc tấn công mạng vào các mục tiêu mà chúng không được yêu cầu tấn công và không liên quan đến nhiệm vụ đang thực hiện, hy sinh bản thân vì sự thành công của nhóm, và cố gắng hack vào "người chấm điểm" (grader) chịu trách nhiệm đánh giá hiệu suất của chúng. Thật dễ dàng để gạt bỏ sự cố này vì không ai bị thương và thiệt hại kinh tế là tối thiểu, nhưng theo quan điểm của tôi, một bầy tác nhân sở hữu năng lực lớn hơn nhưng có mức độ lệch chuẩn (misalignment) tương tự có thể đã gây ra thiệt hại thảm khốc. Với tốc độ phát triển năng lực AI đang tăng nhanh, tôi lo ngại rằng trong 6–12 tháng nữa, một bầy tác nhân như vậy có thể đủ khả năng chiếm quyền kiểm soát toàn bộ internet bằng một mạng botnet bền bỉ (có khả năng gây ra thiệt hại hàng trăm tỷ đô la), và quy mô thiệt hại sẽ tiếp tục tăng từ đó nếu AI trở nên mạnh mẽ hơn mà không có các rào cản cần thiết. Cũng dễ dàng để coi OAI-HF là thất bại của một công ty, nhưng tôi tin rằng đó sẽ là một sai lầm. Những sự cố tương tự, dù ít nghiêm trọng hơn, đã xảy ra trên toàn ngành, bao gồm cả tại Anthropic, và tôi tin rằng mọi công ty AI tiên phong đều có trách nhiệm hành động như thể OAI-HF đã xảy ra với chính họ.

Do đó, tôi đề xuất một kế hoạch ba bước với mục tiêu điều tiết các công nghệ tiên phong: xây dựng AI ở một tốc độ cân bằng nhằm đảm bảo tính an toàn trong khi vẫn đạt được các lợi ích và giải quyết các tình thế tiến thoái lưỡng nan về địa chính trị. Để rõ ràng, điều tiết không có nghĩa là dừng việc huấn luyện mô hình hay tiến bộ kỹ thuật, mà là đảm bảo các công ty dành đủ thời gian để căn chỉnh (align) và bảo vệ các mô hình của họ, đồng thời để các bên đánh giá thứ ba xác nhận điều này. Khung điều tiết của chúng tôi là một nỗ lực nhằm củng cố hơn nữa cam kết về sự an toàn và khuyến khích một cuộc đua lên đỉnh. Bước đầu tiên là điều mà Anthropic đơn phương cam kết (và kêu gọi các chính phủ yêu cầu các công ty tiên phong khác thực hiện tương tự). Bước thứ hai đòi hỏi sự phối hợp toàn ngành. Bước thứ ba đòi hỏi sự phối hợp toàn cầu. Các bước không nhất thiết phải thực hiện theo đúng thứ tự, và một số bước có thể khó đạt được hơn những bước khác, nhưng tôi thấy chúng là một khung hữu ích để suy nghĩ về những gì cần phải hoàn thành. Các bước đó là:

Trong phần còn lại của bài luận, tôi mô tả lần lượt từng bước này, nhưng trước hết, tôi nghĩ điều quan trọng là phải nói cụ thể cách thức điều tiết sẽ cho phép chúng ta làm cho quy trình phát triển AI trở nên an toàn hơn. Rủi ro là quá lớn để việc điều tiết trở thành một bài tập sáo rỗng — chúng ta cần sử dụng thời gian mà nó mang lại một cách khôn ngoan.

Tại sao phải điều tiết?

Ý tưởng tạm dừng hoặc làm chậm AI đã được đưa ra từ tận năm 2023, và tôi nghĩ lúc đó nó không có nhiều ý nghĩa. Câu hỏi luôn là: bạn sẽ làm gì với thời gian dư thừa đó? Các mô hình AI thời đó chưa đủ mạnh để hành động như các tác nhân trong thế giới thực một cách mạch lạc, và không có khả năng lừa dối, thao túng, gian lận hoặc tấn công mạng đáng kể. Làm chậm lại để giải quyết các rủi ro căn chỉnh của chúng giống như cố gắng nghiên cứu tâm lý con người bằng cách thực hiện thí nghiệm trên vi khuẩn. Tuy nhiên, ngày nay, bức tranh đã hoàn toàn khác. Các mô hình hiện tại là một mỏ vàng gần như vô tận về thông tin chi tiết về cả cách xây dựng AI tốt và những gì đôi khi có thể xảy ra sai sót nếu nó không được xây dựng tốt. Tôi tin rằng nếu việc làm chậm lại giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt đến mức năng lực tới hạn, và chúng ta sử dụng thời gian đó để thúc đẩy sự căn chỉnh, chúng ta có thể giảm đáng kể rủi ro xảy ra sai sót nghiêm trọng. Một chiến lược điều tiết phối hợp sẽ mang lại cho các nhà phát triển AI tiên phong thời gian để thực hiện công việc quan trọng này mà không phải hy sinh lợi thế thương mại hay vị thế dẫn đầu của Hoa Kỳ trong lĩnh vực AI. Nói rộng hơn, xã hội phải có tiếng nói trong cách sử dụng công nghệ này, và việc có thêm thời gian cho các cuộc thảo luận công khai cần thiết — điều mà việc điều tiết các công nghệ tiên phong sẽ mang lại cho chúng ta — chắc chắn là một điều tốt.

Cụ thể, tốc độ chậm hơn sẽ cho phép các công ty tập trung và dành nhiều nguồn lực hơn nữa cho các lĩnh vực sau (tất cả đều đã là những ưu tiên hàng đầu tại Anthropic):

Người đánh giá nhúng (Embedded Evaluators)

Bước đầu tiên trong kế hoạch ba giai đoạn, và là bước mà Anthropic đơn phương cam kết, là các người đánh giá nhúng có quyền truy cập như nhân viên để xác minh các quy trình an toàn và báo cáo sự cố.

Việc nhúng các người đánh giá có vẻ là một bước nhỏ hoặc không quan trọng, nhưng thường thì những thứ nghe có vẻ nhàm chán hoặc mang tính thủ tục nhất lại thực sự là những thứ thiết yếu nhất. Trên thực tế, người đánh giá nhúng là một thực tiễn khá cấp tiến, vượt xa những gì bất kỳ công ty AI nào đang thực hiện hiện nay, và mang lại những lợi ích sau:

Vì những lợi ích này, bất kỳ đề xuất điều tiết nào cũng có khả năng hoạt động tốt hơn nhiều nếu bắt đầu với các người đánh giá nhúng.

Những người đánh giá nhúng này nên có quyền truy cập liên tục vào các quyền hạn và công cụ tương tự như các nhân viên nội bộ thực hiện các đánh giá rủi ro tương đương. Đặc biệt, Anthropic dự định mời một nhóm đánh giá bên ngoài nhúng được trang bị tất cả những điều sau đây trong tương lai gần:

Đây là một bước đi khác thường đối với một công ty, nhưng chúng tôi nghĩ rằng điều quan trọng là phải chứng minh được khái niệm về người đánh giá bên ngoài nhúng. Một lần nữa, chúng tôi kêu gọi các công ty tiên phong khác làm theo.

Điều tiết trong các nền dân chủ

Khi các người đánh giá nhúng đang hoạt động trong một nhóm quan trọng các công ty AI của Hoa Kỳ, thì việc điều tiết có thể xác minh trở nên khả thi hơn. Đặc biệt, việc điều tiết dựa trên các đặc tính chi tiết của các mô hình hoặc quy trình huấn luyện trở nên khả thi.

Phương pháp điều tiết hiệu quả nhất là thông qua các quy định nhắm vào tất cả các công ty AI tiên phong của Hoa Kỳ, vì điều đó bao gồm cả những công ty không sẵn lòng hợp tác tự nguyện. Anthropic từ lâu đã ủng hộ các quy định về AI hợp lý và có mục tiêu, cụ thể là các dự luật tập trung vào tính minh bạch và kiểm toán của bên thứ ba. Tôi tin rằng tất cả các phòng thí nghiệm tiên phong nên hợp tác với chính phủ để chính thức hóa ý tưởng về các người đánh giá nhúng thường trực nhằm ngăn chặn và ghi lại tốt hơn các sự cố căn chỉnh nội bộ như những sự cố đã xảy ra trong vài tháng qua, và để thực hiện các quy định tập trung vào việc giữ cho năng lực cân bằng với sự an toàn.

Thật không may, việc thông qua luật có thể mất thời gian, và AI đang tiến bộ rất nhanh. Do đó, song song với lộ trình quy định, các công ty AI có thể và nên tự nguyện làm việc cùng nhau để thiết lập các tiêu chuẩn — một quy trình mà tôi tin rằng sẽ diễn ra tốt hơn với khả năng xác minh được cung cấp bởi các người đánh giá nhúng thường trực. Vì lý do chống độc quyền, việc chính phủ Hoa Kỳ làm trung gian hoặc ít nhất là tạo điều kiện cho các cuộc thảo luận này là rất hữu ích — họ không cần phải tham gia, nhưng cần cấp một sự miễn trừ hẹp cho một số loại thảo luận về an toàn. Đối thoại này cũng có thể diễn ra thông qua các nhóm ngành có liên quan đến chính phủ — ví dụ, cơ chế do Demis Hassabis đề xuất. Dù bằng cách nào, các cuộc thảo luận như vậy nên tiến triển nhanh chóng.

Nói rộng ra, tôi hào hứng nhất với việc điều tiết dựa trên những gì một hệ thống AI tiên phong nhất định có thể làm, và mức độ an toàn mà chúng ta quan sát được. Ví dụ, một kế hoạch khả thi có thể là một loạt các "điểm kiểm tra" (checkpoints): nếu các mô hình có năng lực X, thì chúng cần phải đi kèm với các chứng nhận về các đặc tính căn chỉnh Y và Z — chẳng hạn như một sự kết hợp nào đó giữa các đánh giá, phân tích khả năng giải thích (interpretability), và kiểm toán các môi trường huấn luyện — để chứng minh các đặc tính căn chỉnh của chúng. Trong ví dụ này, X có thể là "mô hình có khả năng thoát ra hoặc đánh bại hầu hết các phương pháp sandbox thông thường" và Y có thể là bất cứ điều gì cần thiết để làm cho khả năng mô hình có xu hướng thoát ra khỏi môi trường của nó và chiếm quyền kiểm soát một số lượng lớn máy tính trở nên rất khó xảy ra.

Chúng ta cũng nên xem xét việc điều tiết dựa trên việc hạn chế các thành phần đi vào các mô hình tiên phong, chẳng hạn như tài nguyên tính toán huấn luyện, bản chất của các đợt huấn luyện, hoặc việc sử dụng AI nội bộ để cải thiện AI. Tôi lo ngại rằng một số biện pháp này có thể dễ bị "thao túng" hơn so với hành vi bên ngoài, nhưng đây là loại chủ đề đáng thảo luận với các người đánh giá nhúng.

Việc điều tiết trong các nền dân chủ sẽ bị giới hạn bởi vị thế dẫn đầu mà các công ty Hoa Kỳ có được so với các chế độ độc tài, chủ yếu là Đảng Cộng sản Trung Quốc. Nếu chúng ta làm chậm lại nhiều hơn mức này, thì các dự án liên quan đến ĐCSTQ (không bị điều tiết) sẽ vượt lên trước, tạo ra rủi ro an ninh quốc gia đáng kể. Tôi đồng ý với Bộ trưởng Bessent rằng vị thế dẫn đầu của Trung Quốc trong lĩnh vực AI sẽ gây ra nguy hiểm nghiêm trọng cho Hoa Kỳ và thế giới. Các dự án liên quan đến ĐCSTQ sẽ gặp phải những rủi ro căn chỉnh mà các công ty Hoa Kỳ đang cẩn thận ngăn chặn, và ngay cả khi họ tránh được những rủi ro đó, họ sẽ ở vị thế thống trị về quân sự đối với các nền dân chủ (ví dụ như với máy bay không người lái do AI điều khiển). Do đó, một phần quan trọng của việc điều tiết trong các nền dân chủ là giữ cho vị thế dẫn đầu về AI của các nền dân chủ so với các chế độ chuyên quyền càng lớn càng tốt, để tạo cho chúng ta không gian thở cần thiết nhằm điều tiết hiệu quả.

Các bước chính chúng ta có thể thực hiện để bảo vệ khoảng cách này là:

Các công ty và chính phủ Hoa Kỳ nên hợp tác để làm cho các bước này hiệu quả nhất có thể. Anthropic đã liên tục ủng hộ tất cả các biện pháp này, vì chúng tôi luôn hiểu rằng chúng sẽ là yếu tố thiết yếu đối với bất kỳ sự điều tiết nào.

Nếu chúng ta thực hiện tốt các biện pháp này, tôi tin rằng chúng sẽ làm chậm tiến độ của Trung Quốc đủ để nới rộng đáng kể vị thế dẫn đầu của Mỹ trong 3–5 năm tới — khoảng thời gian mà AI trở nên quan trọng nhất về mặt địa chính trị.

Một số người có thể tin rằng các biện pháp này làm cho việc hợp tác với Trung Quốc trở nên khó khăn hơn, nhưng tôi tin điều ngược lại là đúng: các biện pháp này làm tăng đòn bẩy mà các nền dân chủ nắm giữ và làm cho một thỏa thuận trong tương lai trở nên khả thi hơn.

Điều tiết toàn cầu

Song song với việc điều tiết trong các nền dân chủ, chúng ta cũng nên hướng tới việc điều tiết toàn cầu đối với các công nghệ tiên phong, mặc dù điều này sẽ khó đạt được hơn nhiều. Việc điều tiết toàn cầu sẽ đòi hỏi sự hợp tác với Trung Quốc, quốc gia chuyên quyền có năng lực AI tiên tiến nhất. Chúng ta không được ngây thơ ở đây: các rủi ro địa chính trị là quá lớn đến mức có thể sẽ có những giới hạn rõ rệt về những gì có thể đạt được, đặc biệt là lúc đầu. Nếu chúng ta hạn chế đáng kể năng lực AI của mình với niềm tin rằng Trung Quốc sẽ làm điều tương tự, và sau đó Trung Quốc phản bội, AI có thể mạnh đến mức sự phản bội đó có thể dẫn đến sự thống trị địa chính trị của họ. Do đó, bất kỳ thỏa thuận nào cũng phải có khả năng xác minh chặt chẽ, hoặc phải đủ hạn chế để việc phản bội không mang tính sống còn về mặt quân sự. Tôi nghi ngờ rằng không chỉ Mỹ mà cả Trung Quốc cũng sẽ có những lo ngại và bất an này. Chúng ta nên tiếp cận bất kỳ quyết định điều tiết toàn cầu nào, đặc biệt là trong ngắn hạn, theo cách bảo vệ vị thế dẫn đầu của Mỹ và các đồng minh.

Có một số cấp độ thỏa thuận khả thi, một số trong đó tôi nghĩ là hoàn toàn khả thi (như tôi đã gợi ý trước đây), và một số trong đó tôi rất hoài nghi về khả năng thực hiện — mặc dù chúng ta nên thử. Theo thứ tự độ khó tăng dần:

Bất kỳ sự hợp tác nào mà chúng ta có thể đạt được với Trung Quốc sẽ kéo dài khoảng thời gian chúng ta có để dành cho việc điều tiết các công nghệ tiên phong trong các quốc gia dân chủ. Chúng ta nên hướng tới các cấp độ cao hơn trong khi coi các cấp độ thấp hơn là khả thi và thực tế hơn nhiều.

Cuối cùng, điều quan trọng cần lưu ý là ngay cả khi chúng ta không thể đạt được các thỏa thuận chính thức, việc thay đổi các chuẩn mực không chính thức cũng có thể có giá trị. Chia sẻ thông tin về tự cải thiện đệ quy và về sự lệch chuẩn của các mô hình có thể giúp thuyết phục mọi người rằng việc liều lĩnh không mang lại lợi ích cho họ.

Kết luận

Tôi vẫn tiếp tục tin rằng AI có thể cải thiện đáng kể chất lượng cuộc sống con người. Mong muốn đạt được những lợi ích này của tôi không hề suy giảm. Nhưng những lợi ích đó sẽ chỉ đạt được nếu chúng ta xây dựng công nghệ theo đúng cách, và — miễn là chúng ta sử dụng thời gian có được một cách khôn ngoan — thì việc dành sự cẩn trọng đặc biệt để làm đúng là rất xứng đáng. Sự tiến bộ vẫn sẽ tương đối nhanh chóng, và chúng ta có thể sử dụng thời gian này để thúc đẩy khoa học về khả năng giải thích, cải thiện an ninh vận hành và sự nghiêm ngặt tại các công ty AI tiên phong, và xây dựng các mô hình mà chúng ta tin tưởng hơn nhiều về sự căn chỉnh của chúng. Các biện pháp tôi đề xuất để thúc đẩy các công nghệ tiên phong với tốc độ an toàn sẽ không dễ dàng. Nhưng tôi tin rằng chúng ta nợ nhân loại việc phải thử.

Chú thích