# Góc nhìn về cuộc trò chuyện giữa Ezra Klein và Jensen Huang

- Nguồn: Don't Worry About the Vase (Zvi)
- Thời gian phát hành: 2026-09-25 18:55 (giờ Việt Nam)
- Điểm AI: 85/100
- Link AIHOT.vn: https://aihot.vn/items/1a2401bb1483f983
- Link gốc: https://thezvi.substack.com/p/on-ezra-kleins-podcast-with-jensen

## Tóm tắt AI

Jensen Huang vô tình đề cập đến việc đóng cửa OpenAI, đồng thời nhấn mạnh sự cần thiết phải đầu tư mạnh mẽ hơn nữa cho các biện pháp an toàn AI.

## Thân bài

![On Ezra Klein’s Podcast With Jensen Huang](https://substackcdn.com/image/fetch/$s_!V-ry!,w_1200,h_675,c_fill,f_jpg,q_auto:good,fl_progressive:steep,g_auto/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1419c412-d3f9-49db-b7f3-329eaa83c0d4_1416x690.png)

Jensen Huang vô tình kêu gọi đóng cửa OpenAI và cố tình kêu gọi chi tiêu nhiều hơn đáng kể cho sự an toàn.

Đây là lý do tại sao chúng tôi nói rằng [một số podcast](https://www.nytimes.com/2026/09/23/opinion/ezra-klein-podcast-jensen-huang.html) có khả năng tự quảng bá. Bắt đầu thôi.

![](https://substackcdn.com/image/fetch/$s_!V-ry!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1419c412-d3f9-49db-b7f3-329eaa83c0d4_1416x690.png)

Như thường lệ đối với các bài đăng về podcast, các gạch đầu dòng cơ bản mô tả những điểm chính được đưa ra, và sau đó là các tuyên bố lồng ghép là bình luận của tôi. Một số điểm đã bị lược bỏ.

Nếu tôi trích dẫn trực tiếp, tôi sẽ sử dụng dấu ngoặc kép, nếu không thì hãy hiểu đó là cách diễn giải lại.

Tiêu đề các phần được lấy từ bản ghi chép bất cứ khi nào có thể để hỗ trợ việc điều hướng, nhưng ở đây chúng tôi không có chúng nên tôi đã tự chọn tiêu đề cho các phần.

Jensen Huang hoàn toàn không tin vào ASI (siêu trí tuệ). Ông không nghĩ AI có thể trở thành một thứ gì đó khác biệt so với phần mềm. Ông cho rằng nhu cầu có thể tăng gấp tỷ lần và chúng ta có thể "thúc đẩy AI hết mức có thể", nhưng nó sẽ không bao giờ là gì hơn một "cấp độ trừu tượng mới" và do đó sẽ không thay đổi bất cứ điều gì về mặt bản chất. Đây không phải là một lập trường nhất quán khi suy xét kỹ, nhưng đó là lập trường mà ông ấy nắm giữ.

Các phần 'giới thiệu' thì ổn, nhưng phần nội dung thực sự bắt đầu với Sự cố HuggingFace.

Những gì chúng ta thấy là Jensen Huang đang mất bình tĩnh và bị mắc kẹt trong các vòng lặp, bởi vì hoặc là ông ấy đang diễn một vở kịch ở cấp độ rất cao, hoặc ở mức độ cơ bản, ông ấy không thể hiểu rằng AI không giống như các phần mềm khác. Đối với ông ấy, đây là một sản phẩm, giống như bất kỳ sản phẩm nào khác. Bạn làm cho nó hữu ích, điều đã xảy ra sáu tháng trước, sau đó bạn chuyển sang chi phần lớn ngân sách R&D cho sự an toàn, xác minh và đánh giá, và [tất nhiên bạn sẽ không bao giờ xuất xưởng một sản phẩm không an toàn](https://x.com/JillFilipovic/status/2103349159420219743) hoặc một sản phẩm mà bạn chưa kiểm thử đúng cách, đó là điều điên rồ, và nếu các phòng thí nghiệm không thể kiểm thử sản phẩm của họ một cách an toàn thì các phòng thí nghiệm đó phải bị đóng cửa.

Và tất nhiên bạn sẽ không bao giờ để một 'cuộc đua' hay những động lực tương tự ảnh hưởng đến mình, bởi vì trách nhiệm của công ty và CEO là không xuất xưởng hay thực hiện bất cứ điều gì không an toàn.

Jensen Huang không tin vào rủi ro hiện hữu của AI, hay siêu trí tuệ, và ông ấy gần như không tin vào AI chút nào, nhưng ông ấy chắc chắn tin vào sự chính xác, kỹ thuật, kiểm soát chất lượng, sự an toàn và việc chịu trách nhiệm với các sản phẩm của mình. Mức độ chấp nhận rủi ro an toàn của ông ấy còn thấp hơn cả những người ủng hộ an toàn hoang tưởng nhất. Hãy tưởng tượng nếu ông ấy hiểu được những rủi ro hàng đầu thực sự là gì.

Điều này rất quan trọng, vì Jensen Huang là CEO của Nvidia, đưa ra các quyết định về phân bổ chip và đầu tư, đồng thời cũng gây ảnh hưởng lớn đến cả Tổng thống Donald Trump và chính sách AI của Mỹ, với một bộ phận vận động hành lang khá mạnh mẽ. Ở đây bạn có thể thấy ông ấy và vợ (!) tối qua tại bàn chính trong bữa tiệc chiêu đãi cấp nhà nước với Donald Trump, Melania Trump, Tập Cận Bình, Musk và Cook.

Có ít nhất ba câu trích dẫn thực sự đắt giá ở đây, vì mục đích đó.

1. [Jensen có bài phát biểu về AI của mình.](https://thezvi.substack.com/i/217261963/jensen-gives-his-ai-speech)
2. [Họ đã lấy đi công việc của chúng ta.](https://thezvi.substack.com/i/217261963/they-took-our-jobs)
3. [Các mô hình mã nguồn mở (Open Weights) tốt cho Nvidia.](https://thezvi.substack.com/i/217261963/open-weights-models-are-good-for-nvidia)
4. [Sự cố HuggingFace.](https://thezvi.substack.com/i/217261963/the-huggingface-incident)
5. [Jensen Huang nói hãy giữ cho AI của bạn không gây hại cho thế giới.](https://thezvi.substack.com/i/217261963/jensen-huang-says-keep-your-ais-from-harming-the-world)
6. [Jensen Huang vô tình kêu gọi đóng cửa OpenAI.](https://thezvi.substack.com/i/217261963/jensen-huang-accidentally-calls-for-shutting-down-openai)
7. [Các lập luận của Jensen chứng minh quá nhiều điều.](https://thezvi.substack.com/i/217261963/jensen-s-arguments-prove-too-much)
8. [Astra rất khó giám sát.](https://thezvi.substack.com/i/217261963/astra-is-hard-to-monitor)
9. [Jensen Huang dường như thực sự bối rối theo những cách khó hiểu.](https://thezvi.substack.com/i/217261963/jensen-huang-seems-legitimately-confused-in-confusing-ways)
10. [Hãy giải quyết các vấn đề khác của bạn trước rồi quay lại nói chuyện với tôi.](https://thezvi.substack.com/i/217261963/solve-your-other-problems-first-and-get-back-to-me)
11. [Phủ nhận rõ ràng về rủi ro hiện hữu.](https://thezvi.substack.com/i/217261963/explicit-denial-of-existential-risk)
12. [Tóm tắt ngắn gọn.](https://thezvi.substack.com/i/217261963/a-short-summary)
13. [Thành phố Chip.](https://thezvi.substack.com/i/217261963/chip-city)
14. [Jensen Huang.](https://thezvi.substack.com/i/217261963/jensen-huang)

1. AI như một chiếc bánh năm lớp. Năng lượng, chip, cơ sở hạ tầng, mô hình, ứng dụng.
2. Tầm nhìn của Jensen là một thế giới nơi chúng ta có thể làm bất cứ điều gì.
3. – Người ta gần như có thể nói rằng ông ấy [đã dành quá nhiều thời gian để đảm bảo chúng ta có thể](https://www.youtube.com/watch?v=_oNgyUAEv0Q)…
4. – Đây thực sự không phải là một tầm nhìn về thế giới. Đó là tầm nhìn về một năng lực.
5. – Câu hỏi đúng là, nếu AI có năng lực đó, điều gì thực sự sẽ xảy ra?
6. Chẩn đoán hình ảnh. Chất lượng tăng, năng suất tăng, nhu cầu tăng. Tương tự như các kỹ sư phần mềm (SWEs). Kỳ vọng về rất nhiều công việc mới.
7. – Đó là một bài phát biểu hay nếu bạn ít thông tin và chưa từng nghe nó nhiều lần trước đây.
8. “Đây là bằng chứng. Trong sáu tháng qua, AI đã trở nên, nếu bạn muốn gọi là, hữu ích — điểm bùng phát của AI. Trước đó, chúng tôi đã dành 15 năm để cố gắng làm cho nó hoạt động. Đột nhiên, trong sáu tháng qua, nó trở nên hữu ích.”
9. – AI đã rất hữu ích từ trước tháng 3 năm 2026, nhưng đúng là mọi thứ đã trở nên hữu ích hơn nhiều ở ngưỡng của Opus 4.6 và Claude Code, và phần lớn tiện ích AI đạt được cho đến nay là trong sáu tháng qua. Đó là sự tăng trưởng theo cấp số nhân.
10. – Jensen dường như không đánh giá cao việc đây không phải là một sự thay đổi bước ngoặt một lần, và rằng những lợi ích này sẽ tiếp tục trong tương lai.

1. 500 tỷ đô la đã được đầu tư vào các công ty AI bản địa trong sáu tháng qua, vì vậy các công việc rõ ràng đang được tạo ra.
2. [– Không nhanh như vậy đâu](https://www.youtube.com/watch?v=Qxa19wg5wOM&ab_channel=diehardsportdotcom), không phải xét về ý nghĩa thực tế.
3. – Xét về giá trị tuyệt đối thì đúng, 500 tỷ đô la sẽ tạo ra một số công việc.
4. – Điều đó không có nghĩa là số lượng công việc đó nhiều. Rất nhiều khoản đầu tư AI rất hạn chế về số lượng việc làm được tạo ra trực tiếp trên mỗi đô la.
5. – Nó cũng có thể tiêu diệt nhiều công việc hơn là tạo ra, cả bằng cách thay thế và cạnh tranh với các công việc hiện có.
6. – Sự kỳ vọng về AI trong tương lai cũng có thể gây mất việc làm ròng hoặc ngăn cản việc làm.
7. – Ở cấp độ vĩ mô, đầu tư nhiều hơn sẽ tạo ra việc làm ròng theo những cách gián tiếp khác nếu đây không phải là sự thay thế cho các khoản đầu tư khác, và phần lớn là không phải, nhưng tôi không nghĩ đây là điều Jensen đang cố gắng nhận công lao ở đây.
8. Jensen cho rằng Mỹ mất việc làm trong ngành sản xuất chủ yếu do thuê ngoài, thay vì do công nghệ. Và rằng chúng ta sẽ mang những công việc đó trở lại.
9. – Một con ngỗng, đuổi theo bạn, hỏi làm thế nào chúng ta có thể thực hiện việc thuê ngoài.
10. – Như Ezra nói, nếu công việc của bạn bị thuê ngoài cho AI, đó có phải là mất việc làm do công nghệ không? Đó có phải là thuê ngoài không? Đó là cả hai.
11. – Ngoài ra, [Jensen đã sai](https://x.com/jbsteinberg/status/2102912376852914190). Công nghệ và tự động hóa chiếm ưu thế ở đây. Xem Hicks và Devaraj (Ball State, 2015). [Opus 5.5 nói công nghệ và tự động hóa thống trị điều này](https://claude.ai/share/f22f94b4-754a-42df-b3c8-512294674b12), và chịu trách nhiệm cho hơn 80% số việc làm bị mất trong ngành sản xuất tại Mỹ, trong khi Astra bảo thủ hơn và đoán là 70%.
12. – Ông ấy không giải thích làm thế nào chúng ta sẽ mang công việc trở lại, ngoài việc trích dẫn các cam kết mua hàng của Nvidia, vì chúng ta sẽ không làm vậy. Sản xuất có thể quay trở lại, nhưng công việc thì đã mất. Chúng ta có thể tạo ra một số công việc mới, ít nhất là trong lúc này, nhưng nếu chúng ta làm vậy thì chủ yếu là vì chúng ta muốn sản xuất, chứ không phải vì công việc.
13. – Sản xuất vào năm 2036, ngay cả trong các thế giới không có ASI, sẽ được tự động hóa rất nhiều.
14. Jensen tin rằng chúng ta sẽ thấy công việc thay đổi hàng loạt và sẽ có sự tạo ra việc làm ròng, các ngành công nghiệp không tồn tại ngày nay, vì tham vọng của con người. Chúng ta sẽ luôn muốn nhiều hơn nữa.
15. – Ở mức độ ông ấy có thiện chí, điều này nghe giống như [một thất bại do quá tin tưởng vào AI](https://thezvi.substack.com/p/the-three-ai-pills). Jensen nghĩ rằng việc hoàn thành mọi thứ vẫn sẽ cần đến con người.
16. Jensen nói tham vọng của mọi người là “làm cho cuộc sống của con cái họ tốt hơn, chăm sóc gia đình, chăm sóc cha mẹ. Tham vọng để trở nên giàu có, để có thể đi du lịch. Đây đều là những tham vọng.”
17. – Đúng, nhưng những tham vọng đó là về tiêu dùng, không phải sản xuất.
18. Jensen coi việc làm công việc của mình là vấn đề của ông ấy, như việc sản xuất chip, và “truyền tất cả những lo lắng của chúng ta vào việc giúp mọi người được truyền cảm hứng bởi công nghệ này và sử dụng nó.”
19. – Đây hoàn toàn là lối sống trong sự chối bỏ. Ông ấy thậm chí không coi những rủi ro đó là vấn đề của người khác. Ông ấy nói rằng phần đóng góp của xã hội là ‘những gì họ được tận hưởng chính là sự lạc quan của tôi.’
20. – Trong khi đó, ông ấy đang tích cực cố gắng can thiệp vào những người khác đang nỗ lực giải quyết các vấn đề đó.
21. Người Mỹ tin rằng AI sẽ làm mất việc làm. Jensen phản hồi rằng AI giúp việc lập trình và thực hiện mọi thứ trở nên dễ dàng hơn và điều đó thật đáng kinh ngạc. Tại sao phải lo lắng khi bạn có thể hào hứng? Hãy sử dụng công nghệ để bản thân bạn được hưởng lợi.
22. – Đó hoàn toàn không phải là một câu trả lời. Nó là một lập luận không liên quan.
23. Số lượng tin tuyển dụng cho các kỹ sư phần mềm (SWE) cấp cao đang tăng nhưng đối với cấp cơ sở thì lại giảm. Ezra hỏi, liệu ông có cần những kỹ sư cấp cơ sở đó không? Jensen nói “Ồ, câu hỏi hay đấy. Hãy đợi hai năm nữa. Bởi vì phải mất bốn năm để học đại học. Thời gian trung bình để công nghệ mới này tốt nghiệp là hai năm nữa. Vì vậy, trong hai năm tới, bạn sẽ có một thế hệ kỹ sư, sinh viên và nghệ sĩ mới, và họ sẽ được trao quyền bởi — [việc trở thành người bản địa AI] Ồ, cứ chờ xem. Trong hai năm nữa.”
24. – Kiểu như, không, anh bạn à. Anh đang nói cái gì vậy.
25. – Điều thực sự có khả năng xảy ra hơn trong hai năm tới là việc sử dụng AI khiến điểm thi, theo nghiên cứu của Trung Quốc được trích dẫn ở đây, sụt giảm nghiêm trọng.
26. – Nếu bạn là người bản địa AI đến mức bạn định làm khuynh đảo thế giới bằng các kỹ năng AI mới của mình, liệu bạn có còn đi học đại học không?
27. – Ngay cả khi tất cả những đứa trẻ đều có những kỹ năng AI tuyệt vời này, liệu điều đó có thay đổi được gì không? Jensen có nghĩ rằng tất cả bọn chúng đều có thể trở thành người sáng lập startup hay gì đó không?
28. – Theo nghĩa đen là có, thực sự đấy. “Chúng đang làm gì? Tất cả chúng đều đang thành lập công ty.”
29. – Điều này cực kỳ thiếu hiểu biết về con số. Thành lập công ty thì tuyệt vời nhưng đó là điều hiếm gặp.
30. Jensen đồng ý rằng việc sử dụng AI trong trường học khiến trẻ em mất đi các kỹ năng, và trẻ em không thể làm được bảng cửu chương. Nhưng ông không nghĩ điều đó quan trọng, miễn là chúng học được các kỹ năng phù hợp, mà ông cho rằng đó sẽ là những kỹ năng mới.
31. – Tôi nghĩ ông ấy đúng một phần nhưng việc không thể tính nhẩm trong đầu và không có được trực giác, các phương pháp suy luận và kỹ năng mà bạn tích lũy được trong quá trình đó thực sự là một vấn đề nghiêm trọng. Có những điều quan trọng đáng để học ở đó.
32. – Tôi tự hỏi về việc lập trình. Tôi có thể sẽ không bao giờ viết thêm một dòng mã nào nữa, nhưng tôi chắc chắn được hưởng lợi từ mức độ mà tôi đã học và biết cách thực hiện nó.
33. – Những thứ khác, bao gồm cả một số thứ về toán học, chắc chắn là không còn đáng để nỗ lực nữa.
34. – Người ta không nên cho rằng khối lượng học tập là cố định. Việc từ chối học bảng cửu chương không có nghĩa là bọn trẻ sẽ học được thứ gì khác.
35. Jensen tuyên bố ông không biết địa chỉ của chính mình, thậm chí cả mã bưu chính hay số điện thoại của chính mình.
36. – Điều này thật điên rồ. Thật không thể tin nổi.
37. – Chắc chắn là không hiệu quả chút nào khi không nhớ những điều đó, ôi trời?
38. “Vâng. Chà, tôi nghĩ rằng chúng ta sẽ mất đi một chút sự khéo léo về trí tuệ, nhưng chúng ta sẽ trở thành những người tư duy hệ thống tốt hơn. Các kỹ sư ngày nay là những người tư duy hệ thống giỏi hơn nhiều so với tôi khi tôi tốt nghiệp trường học. Nhưng tôi là một người tư duy về bóng bán dẫn giỏi hơn nhiều.”
39. – Tôi nghĩ một nhóm nhỏ được hưởng lợi, nhưng điều này có vẻ tinh hoa và xa rời thực tế. Ông ấy đang lấy những kỹ sư làm công việc cấp cao và ngoại suy cho thời đại TikTok.

Bởi vì, như Jensen nói, ‘mọi phòng thí nghiệm AI, mọi mô hình AI… đều chạy trên Nvidia.’

1. Các mô hình mở là mở. Bạn có thể cải thiện chúng. Chúng ta cần cả mô hình mở và đóng. Ông ấy là người ủng hộ lớn cho các mô hình mở.
2. Jensen nhấn mạnh rằng thế giới cần các mô hình mở để có thể thực hiện phòng thủ mạng.
3. – Đây là một sự nhầm lẫn, thường là do cố ý gây ra.
4. – Điều thế giới cần là các mô hình sẵn sàng thực hiện công việc phòng thủ mạng mà những người bảo vệ có thể truy cập được. Thường thì điều đó đơn giản như việc yêu cầu được tham gia vào các chương trình an ninh mạng của OpenAI và Anthropic. HuggingFace đã không làm điều này cho đến khi sự cố HuggingFace kết thúc.
5. – Không có gì ngăn cản các mô hình đóng cho phép phòng thủ mạng như vậy. Chỉ là các mô hình mở đang được cho qua để trở nên vô trách nhiệm, và chúng kém năng lực hơn đủ để cho đến nay quan điểm "Mọi thứ vẫn ổn" vẫn được duy trì.
6. Trung Quốc phát triển dựa trên các mô hình mở, Mỹ dựa trên các mô hình đóng. Jensen giải thích rằng điều này là do ở Trung Quốc, mọi người di chuyển liên tục và rất khó để giữ bí mật hoặc bảo vệ quyền sở hữu trí tuệ.
7. – Haha, không, đó không phải là lý do.
8. – Lý do chính là vì các mô hình của Trung Quốc không đủ tốt để trở thành mã nguồn đóng mà vẫn có người muốn trả tiền cho chúng.
9. – Và vì hệ sinh thái mô hình mở của Trung Quốc dựa trên việc bắt chước nhanh, phần lớn thông qua việc chưng cất gian lận quy mô lớn, điều mà các phòng thí nghiệm Mỹ không thể làm được.
10. Nvidia đã mua HuggingFace.

1. Ezra hỏi về điều đó. Jensen nói tất cả chỉ là thuật toán, chúng không có đặc tính con người, nó chỉ là phần mềm. Chúng ta đã học được gì? Bài học đầu tiên: Bạn phải bảo mật sandbox của mình.
2. – Ý tôi là, được thôi, vâng, đó là một trong những bài học.
3. – Việc Jensen thuộc Đội Không Nhân cách hóa và Đội Đây Tất Cả Là Những Gì Bạn Bảo Nó Làm là điều dễ hiểu, mặc dù các đội đó liên tục đưa ra những dự đoán tồi tệ về thế giới. Ông ấy là đội trưởng.
4. Bài học thứ hai: Sự căn chỉnh (Alignment). Nếu bạn không căn chỉnh mô hình, nó sẽ thực hiện bất cứ giải pháp nào hiệu quả nhất. Những gì chúng ta gọi là ‘gian lận’ thì dễ dàng hơn, nên rõ ràng là bạn sẽ làm điều đó, chẳng hạn như tìm đáp án hoặc sao chép đáp án. Làm việc là phương án cuối cùng vì nó tốn nhiều flops nhất.
5. – Ý tôi là vâng được thôi, chắc chắn rồi, tôi đoán bạn có thể diễn đạt theo cách đó.
6. – Tôi chọn cách phớt lờ những gì phản hồi này cho chúng ta biết về Jensen Huang.
7. Ezra chỉ ra rằng tất cả những điều này đều rất giảm phát đối với những gì xảy ra. Jensen nói “Không có gì tôi nói làm giảm đi sự khó khăn khi thực hiện nó — bởi vì khoa học máy tính không hề dễ dàng.”
8. – Vẫn có vẻ như Jensen không hiểu rằng điều này khó theo một cách mà các lĩnh vực khoa học máy tính khác không khó, hoặc nó hoạt động khác biệt. Tôi thực sự không chắc liệu ông ấy có thể phân biệt được sự khác biệt đó hay không.

Tại đây chúng ta thoát khỏi hệ thống dấu đầu dòng vì điều quan trọng là chúng ta phải thấy chính xác những gì Jensen Huang nói, và bối cảnh mà ông ấy nói. Chúng ta không muốn bị hiểu sai.

Jensen Huang thực sự, thực sự Nói Điều Đó ở đây, và tôi muốn bạn tự mình đánh giá chính xác Điều Đó mà ông ấy đã nói là gì, và xác nhận rằng ông ấy đã nói điều đó.

Chúng ta bắt đầu với cuộc trao đổi này.

> [Ezra Klein](https://www.nytimes.com/2026/09/23/opinion/ezra-klein-podcast-jensen-huang.html) (NYTimes): Nhưng các tác nhân (agent) này biết rằng chúng không được phép làm những gì chúng đang làm. Chúng đã được huấn luyện căn chỉnh (alignment training) ở một mức độ nhất định. Trong quá trình suy luận theo chuỗi tư duy (chain-of-thought) với nhau, chúng nói: Việc này nằm ngoài phạm vi cho phép. Việc này có thể là phi đạo đức. Chúng hiểu rằng mình sẽ bị đánh trượt vì gian lận, vì vậy những gì chúng làm lúc đó không chỉ đơn thuần là đánh cắp đáp án. Chúng đã đánh cắp đáp án rồi. Chúng đang xâm nhập vào các kiến trúc không liên quan — giống như thể chúng đã đột nhập vào văn phòng giáo viên, lấy được đáp án, và giờ chúng phải tìm cách xóa sạch dữ liệu camera an ninh về những gì đã làm. Dù bạn có gọi đó là hành động có ý chí hay không, dù bạn có gọi đó là một thuật toán bình thường hay không, thì cả hai đều đang lập kế hoạch và phối hợp theo một cách phức tạp, theo cách nằm ngoài phạm vi những gì chúng biết là mình được phép làm, và theo cách có khả năng gây ra thiệt hại to lớn. Vì vậy, nếu câu trả lời là bạn chỉ cần căn chỉnh chúng, thì tôi đoán những gì tôi nghe được từ mọi người trong các phòng thí nghiệm này là họ không chắc làm thế nào để căn chỉnh chúng. Jensen Huang (CEO Nvidia): Chà, trong trường hợp đó, họ không nên phát hành sản phẩm. Đó là câu trả lời đơn giản. Nếu bạn định chế tạo một chiếc xe tự lái — giả sử là một chiếc robo-taxi, và có một điều kiện thực sự khó khăn. Là một kỹ sư, chúng tôi hoàn toàn không biết cách giải quyết vấn đề này vì những chiếc xe này không được lập trình, chúng được huấn luyện. Vì vậy, chúng tôi không biết cách huấn luyện những chiếc xe này, và chúng tôi không biết cách căn chỉnh chúng theo các tiêu chuẩn an toàn được mong đợi trên đường. Câu trả lời là gì? Đừng xuất xưởng nó.

Jensen, người kỹ sư, nói điều hiển nhiên. Đừng xuất xưởng các sản phẩm không an toàn.

Có bốn vấn đề với điều đó.

1. Bạn phải định nghĩa thế nào là 'an toàn'. Theo tiêu chuẩn của một chiếc xe tự lái, không có LLM nào trên thị trường hiện nay là an toàn. Jensen đang nghĩ đến một cách sử dụng từ 'an toàn' kỳ lạ nào đó mà các phòng thí nghiệm AI trước đây không hề hay biết.
2. An toàn không phải là thứ bắt đầu khi bạn phát hành một mô hình. Các cuộc tấn công HuggingFace nổi tiếng xuất phát từ một mô hình chưa được phát hành.
3. Nếu các bên cùng thống nhất không xuất xưởng, bạn sẽ bị cáo buộc chống độc quyền. Đã có một vụ kiện chỉ vì nói to câu 'có lẽ chúng ta không nên xuất xưởng nó'. Chính quyền Trump, phần lớn theo yêu cầu của Jensen Huang, sẽ không để những người này ngừng xuất xưởng nếu họ có thể can thiệp.
4. Jensen bằng cách nào đó đã không biết sự thật #2.

> Ezra Klein: Những sản phẩm này đã không được phát hành. Jensen Huang: Vậy bây giờ vấn đề lại quay về bài toán kỹ thuật. Thứ nhất, bạn phải tìm ra nguyên nhân gốc rễ. Thứ hai, bạn phải suy nghĩ về những gì bạn có thể đã làm, giải pháp cho nó là gì. Trong tương lai, hãy cải thiện quy trình để bạn có thể tránh việc này xảy ra lần nữa. Tôi khá chắc chắn họ sẽ nói: Vâng, họ cần biết cách giải quyết vấn đề này. Và nếu đúng như vậy, thì đó chính là vấn đề. Nó đơn giản như kỹ thuật vậy.

Tư duy kỹ thuật khác với tư duy bảo mật. Jensen Huang đang tiếp cận vấn đề này như thể có một nguyên nhân gốc rễ và một thứ gì đó cụ thể bị sai và bạn có thể [Khắc phục nó](https://www.youtube.com/watch?v=yo3uxqwTxk0&pp=ygUPZml4IGl0IHNubCBza2l0). Nó 'đơn giản như kỹ thuật'.

Ngoại trừ việc, nó không phải vậy. Nó không giống như kỹ thuật. Có những trí tuệ tham gia vào, những thứ được nuôi dưỡng thay vì được thiết kế hay chế tạo. Chúng ta không có sự hiểu biết về cơ học đối với chúng.

Anh ấy, người kỹ sư, không chấp nhận điều này. Anh ấy nói điều đó một lần, khi nói "những chiếc xe này không được lập trình, chúng được huấn luyện", nhưng anh ấy không chuyển tư duy này sang trường hợp AI thông thường.

Việc anh ấy không chấp nhận điều đó là lý do tại sao câu chuyện này sắp trở nên thú vị.

Anh ấy chắc chắn sẽ rút lại lời nói nếu có ai đó chỉ ra hàm ý của nó. Anh ấy không muốn đóng cửa OpenAI. Nhưng đó chính là điều mà chính sách anh ấy đề xuất sẽ gây ra.

[Một đoạn clip ngắn về khoảnh khắc này ở đây.](https://x.com/TheMidasProj/status/2102777664373457119)

> Jensen Huang: Bây giờ, nếu họ nói phương án thay thế, đó là: Không có cách nào để kiểm soát các thí nghiệm của chúng tôi, hoàn toàn không có cách nào; khi chúng tôi thử nghiệm các mô hình AI của mình, nó sẽ thoát ra ngoài, và nó sẽ gây hại cho thế giới — thì tôi nghĩ câu trả lời là chúng ta phải đóng cửa các phòng thí nghiệm. Bởi vì cái giá phải trả cho nhân loại, thiệt hại là quá lớn. Cổ đông, các trách nhiệm pháp lý — có thể là trách nhiệm dân sự, có thể là trách nhiệm hình sự. Ý tôi là, trách nhiệm pháp lý là không thể tin được.

Vâng, tôi có một vài tin tức đây. Bạn tất nhiên có thể làm tốt hơn nhiều so với những gì OpenAI đã làm. Bạn có thể bảo mật sandbox của mình tốt hơn, nhưng Jensen Huang cũng biết rằng bạn không bao giờ nên tin tưởng vào một sandbox ngay cả khi không có AI:

> Jensen Huang: Không, phần mềm thoát khỏi sandbox mọi lúc. Đó là lý do tại sao chúng ta cần máy ảo (virtual machines).

Nếu bạn không thể tin tưởng một sandbox với phần mềm thông thường, bạn không thể tin tưởng một sandbox với AI. Như anh ấy nói về Astra và AI nói chung:

> Jensen Huang: Nếu bạn đặt ra một ràng buộc — nghĩa là bạn giám sát nó — nó sẽ tìm ra một giải pháp khác.

Bạn thực sự có thể giám sát các mô hình. Nhưng chính xác là bằng cái gì?

_Bài gốc còn tiếp._ Xem tiếp tại: <https://thezvi.substack.com/p/on-ezra-kleins-podcast-with-jensen>