Giải mã lý do Dario Amodei muốn 'hãm phanh' sự phát triển của AI

Công nghệ Tri thức công nghệ

Mini Magazine

Nhiều năm trước, Dario Amodei từng rời bỏ vị trí lãnh đạo cấp cao đầy quyền lực tại OpenAI vì lo ngại những nguy hiểm tiềm ẩn trong công nghệ mới.

Dario Amodei lo ngại AI sắp vượt tầm kiểm soát của con người. Ảnh: Chesnot.

Hôm 12/9, Dario Amodei kêu gọi các công ty phát triển trí tuệ nhân tạo (AI) cho phép bên thứ ba đánh giá, hợp tác với chính phủ về các tiêu chuẩn an toàn, đồng thời làm chậm tốc độ cải thiện năng lực của các mô hình AI.

Với tư cách là CEO của Anthropic, cũng như một nhà khoa học có đóng góp lớn đối với tiến bộ AI, ý kiến của Amodei nhận được sự tán đồng từ những nhân vật nổi tiếng khác trong ngành, bao gồm cả Elon Musk và Sam Altman.

"Chúng ta phải đi đầu trong việc giảm tốc"

Trong bài luận đăng trên blog cá nhân, Dario Amodei vẫn lạc quan rằng AI sẽ là "kỳ tích công nghệ mới nhất trong một chuỗi dài những kỳ tích đã nâng tầm và làm cho nhân loại trở nên cao quý hơn".

Tuy nhiên, ông cho rằng các nhà nghiên cứu phải "đi tiên phong" trước những rủi ro như AI vượt tầm kiểm soát, bị sử dụng cho mục đích tội phạm, khủng bố và gây gián đoạn kinh tế.

"Trong vài tháng qua, tôi càng tin chắc rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng hơn nữa, không chỉ đầu tư vào phòng ngừa rủi ro, mà còn phải điều chỉnh tốc độ phát triển năng lực sao cho công tác phòng ngừa rủi ro có thời gian theo kịp", Amodei viết.

"Chúng ta phải giảm tốc độ cải thiện khả năng của các mô hình AI. Tiến bộ vẫn đang diễn ra nhanh chóng và chúng ta phải sử dụng thời gian có được một cách khôn ngoan", ông nói thêm.

Kế hoạch do Amodei đề xuất gồm 3 bước, không bước nào trong số đó tự thân đủ để làm chậm đáng kể quá trình phát triển. Ông kêu gọi các công ty AI cho phép tích hợp các bên đánh giá thứ ba, phối hợp với nhau và với chính phủ về các tiêu chuẩn an toàn, đồng thời kêu gọi chính phủ Mỹ tìm kiếm sự phối hợp toàn cầu về an toàn AI.

Amodei đề xuất một số thỏa thuận khả thi "theo thứ tự độ khó tăng dần", bao gồm: cấm dùng AI vào mục đích độc hại rõ ràng như vũ khí sinh học, thử nghiệm các mô hình trước khi đưa vào sử dụng đối với các "rủi ro khẩn cấp", giới hạn tốc độ tự cải tiến đệ quy, thỏa thuận kiểm soát toàn diện, hoặc thậm chí là tạm dừng việc phát triển AI giữa các chính phủ.

Vài ngày trước khi Amodei công bố bài luận, nhà nghiên cứu Jacob Coxon của Anthropic đã từ chức. Trên mạng xã hội, ông tuyên bố rằng các công ty AI, bao gồm Anthropic và OpenAI, đang "chạy đua thẳng đến siêu trí tuệ tự hoàn thiện".

Trả lời phỏng vấn CBS News, Coxon cho rằng sự phát triển của AI hiện nay "không khác mấy so với 'Kẻ hủy diệt' (The Terminator) hay các bộ phim khoa học viễn tưởng".

Mâu thuẫn của Dario Amodei

Phát biểu của Jacob Coxon phần nào giống với chính quan điểm của Dario Amodei khi ông từ chức Phó Chủ tịch Nghiên cứu tại OpenAI – một trong những vai trò quyền lực nhất trong lĩnh vực AI – vào năm 2021.

Tại thời điểm đó, Amodei cho rằng OpenAI không xem xét nghiêm túc những nguy hiểm tiềm ẩn của chính công nghệ mà họ đang phát triển.

Vài tuần sau, ông và em gái Daniela cùng với 5 đồng nghiệp thành lập Anthropic, tạo ra điều thường được xem là nghịch lý: những người sợ hãi AI nhất lại chính là những người xây dựng nó.

Trong cuốn "The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence", tác giả Claude St. John tường thuật lại hành trình đó cùng những đóng góp của Dario Amodei đối với các tiến bộ AI hiện đại.

Tác giả/Tác phẩm

The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence

Tác giả: Claude St. John · Xuất bản: 21/02/2026 · Titanium Books

Cuốn sách kể về Dario Amodei, từ một nhà nghiên cứu góp phần khám phá các quy luật thúc đẩy sự phát triển của AI cho đến khi rời OpenAI và cùng em gái thành lập Anthropic.

"The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence" tái hiện hành trình xây dựng Claude, những bước ngoặt của ngành AI và nghịch lý khi Amodei vừa cảnh báo về những hiểm họa của AI, vừa nỗ lực phát triển công nghệ này mạnh mẽ hơn.

Cốt lõi của câu chuyện là một mâu thuẫn khác thường. Amodei cảnh báo Quốc hội Mỹ, các nhà lãnh đạo thế giới và công chúng rằng AI có thể là công nghệ nguy hiểm nhất mà nhân loại từng tạo ra.

Ông mô tả kịch bản các hệ thống siêu thông minh có thể vượt khỏi tầm kiểm soát của con người, gây bất ổn cho các quốc gia hoặc chấm dứt nền văn minh. Và rồi mỗi sáng, Amodei vẫn quay lại văn phòng và tiếp tục xây dựng nó, huy động hàng chục tỷ USD để làm cho các mô hình thông minh hơn, nhanh hơn và mạnh mẽ hơn.

Theo Amodei, không phải ông và nhiều nhà khoa học khác phóng đại mối nguy hiểm về AI. Chính mối nguy hiểm đó là lý do ông phải tự đứng ra xây dựng công nghệ này.

Cuốn sách là câu chuyện về hai anh em đặt cược tất cả vào một ý tưởng mà thế giới chưa sẵn sàng đón nhận. Đó cũng là câu chuyện về một nhóm nhà nghiên cứu đi tiên phong về AI. Giờ đây, họ lại phải trả lời câu hỏi: nhân loại có thể sống sót sau phát minh vĩ đại của chính mình hay không?

"The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence" vừa là tiểu sử, vừa là lời cảnh báo, đồng thời đặt ra câu hỏi mà Dario Amodei mượn từ cuốn "Contact" của Carl Sagan: Làm thế nào để các bạn sống sót qua thời kỳ công nghệ non trẻ này mà không tự hủy hoại bản thân?

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.

Cuốn sách "Thời đại AI - Và tương lai loài người chúng ta" trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới, cùng bộ công cụ để bắt đầu trả lời chúng.

Nguyễn Hiếu

nguy cơ của AI, Dario Amodei, phát triển AI, tiến bộ AI

Bạn có thể quan tâm