Podcast TechCrunch: Liệu ngành AI có thực sự sẵn sàng để 'hãm phanh'?

Chúng ta đang chứng kiến một cuộc tranh luận lớn về an toàn AI và khả năng giảm tốc độ phát triển, khi CEO Dario Amodei của Anthropic gần đây đã công bố một kế hoạch nhằm “điều tiết tốc độ phát triển” (pace the frontier), trong khi CEO Jensen Huang của Nvidia công khai hưởng ứng những tuyên bố của Tổng thống Donald Trump rằng làn sóng phản đối AI chỉ là trò lừa bịp và việc quản lý là không cần thiết.

Trong tập mới nhất của podcast Equity trên TechCrunch, Kirsten Korosec, Sean O’Kane và tôi đã thảo luận về việc liệu những nhà điều hành như Amodei và CEO Sam Altman của OpenAI có thực sự nghiêm túc với mong muốn giảm tốc độ phát triển hay không.

Mặc dù tôi ngạc nhiên khi thấy nhiều nhà lãnh đạo trong ngành dường như ủng hộ kế hoạch của Amodei, Sean lưu ý rằng kế hoạch này dường như còn thiếu các chi tiết cụ thể.

Và khi Kristen đặt câu hỏi liệu sự kết hợp giữa các quy định hiện hành và cơ chế thị trường tự do có thể tự tạo ra đủ các biện pháp bảo vệ hay không, Sean trả lời: “Chính phủ liên bang hiện tại chắc chắn không có vẻ gì là muốn thực thi các quy định nói chung, chứ chưa nói đến việc thực thi cụ thể trong lĩnh vực này.”

Thêm vào đó, anh ấy lập luận: “Dường như không có nhiều sự lựa chọn của người tiêu dùng để thúc đẩy thị trường này, theo nghĩa là, nếu một trong những công ty này làm điều gì đó thực sự tồi tệ, họ sẽ phải chịu tác động từ việc khách hàng hủy dịch vụ hay bất cứ điều gì tương tự.”

Hãy tiếp tục đọc để xem trước nội dung cuộc trò chuyện của chúng tôi, đã được biên tập lại để đảm bảo độ dài và sự rõ ràng.

Anthony Ha: Sean, anh nghĩ sao? Liệu chúng ta có thực sự sẽ “điều tiết tốc độ phát triển” không?

Sean O’Kane: Vì lý do nào đó, nghe nó giống như một câu thoại trong phim “Point Break” vậy. Đó là một tuyên bố đậm chất California, kiểu như: “Chúng ta sẽ điều tiết tốc độ phát triển, anh bạn à.”

Tôi không biết nữa. Tuần trước trên chương trình này, tôi đã nói rằng tôi không nghĩ chúng ta đang hướng tới bất kỳ sự giảm tốc nào, phần lớn là vì tôi không nghĩ các công ty này được cấu trúc theo cách mà điều đó có thể vận hành được.

Vì vậy, việc nghe Dario tại Anthropic và Sam tại OpenAI, thậm chí cả Elon Musk ở một mức độ nào đó, nói về điều này là một sự thay đổi khá đột ngột so với những gì tôi đã nói một tuần trước — và chúng ta có thể bàn thêm về việc liệu chúng ta có tin điều đó hay không. Tôi phải nói rằng, tôi không nghĩ mình hoàn toàn sai, bởi vì ngay cả với những kế hoạch lỏng lẻo mà Dario đã trình bày trong một bài đăng trên blog và những gì các nhà lãnh đạo khác đã đề cập, tôi cảm thấy chúng ta vẫn còn thiếu rất nhiều chi tiết cụ thể, không chỉ về các tuyên bố lý do tại sao họ cho rằng có những mối nguy hiểm và rủi ro, mà còn về việc họ thực sự muốn nói gì khi nhắc đến việc giảm tốc độ.

Anthony, tôi biết anh đã đọc kỹ những tài liệu này vào cuối tuần trước khi mọi thứ bắt đầu bùng nổ, nên tôi tò mò liệu anh có cái nhìn bao dung hơn tôi trong việc hiểu những gì họ đang cố gắng truyền tải hay không.

Anthony: Ý tôi là, tôi cũng có những thắc mắc. Điều thực sự nổi bật đối với tôi là việc có quá nhiều người trong ngành dường như nhanh chóng đồng thuận với điều này. Ngay cả trước khi Amodei đăng bài trên blog, tôi đã thấy những người khác đăng tải các phiên bản tương tự của [kế hoạch này] chỉ trong vài ngày trước đó.

Theo hiểu biết của tôi, những đề xuất xuất phát từ cộng đồng an toàn AI này là những điều đã được ấp ủ từ lâu. Chúng không chỉ là những thứ mà [Amodei] tự nghĩ ra. Nhưng có vẻ như rất nhiều người đã sẵn sàng đón nhận điều này và theo một cách nào đó, thật đáng khích lệ khi thấy có sự đồng thuận. Tuy nhiên, điều đó cũng khiến tôi hơi hoài nghi rằng liệu đây có phải là những bước đi thực sự, quan trọng hướng tới việc giảm tốc độ hay không.

Kirsten Korosec: Trước hết, sự đồng thuận có thể là một điều tốt. Ngoài ra, nó cũng có thể là khởi đầu của việc hình thành một tập đoàn độc quyền (cartel). Vì vậy, hãy làm rõ chúng ta đang nói về ai ở đây. Chúng ta đang nói về các phòng thí nghiệm AI tiên phong (frontier AI labs), và điều đó rất cụ thể và quan trọng.

Anh đã nói một phút trước rằng các chi tiết không thực sự rõ ràng, nhưng chúng ta biết ý tưởng chung ở đây là các đơn vị đánh giá độc lập từ bên thứ ba sẽ tham gia làm việc bên trong [các công ty] như Anthropic hoặc OpenAI để giám sát các quy trình và sự cố an toàn AI. Nhưng vẫn còn rất nhiều sự mơ hồ xung quanh vấn đề đó.

Sau đó là một đề xuất khác về việc các công ty AI lớn tại các quốc gia dân chủ phối hợp về các tiêu chuẩn và giới hạn an toàn. Và cả khía cạnh phối hợp quốc tế này nữa. Đó là những ý tưởng chung xoay quanh vấn đề này.

Tôi cũng muốn nói thêm rằng đã có sự phản đối đáng kể từ những cá nhân rất cụ thể. Và đáng ngạc nhiên là có cả những người mà tôi không nghĩ sẽ phản đối điều này. Người rõ ràng nhất, tôi đoán là CEO Jensen Huang của Nvidia, người đã có những lời lẽ khá gay gắt. Tôi không biết hai người nghĩ gì về […] một số bình luận của ông ấy và cuộc gọi mà ông ấy nhận được từ Tổng thống Trump ngay trên sân khấu [tại All-In Summit].

Sean: Tôi nghĩ Jensen hiểu rằng, ở một mức độ nào đó, ông ấy được coi là người trưởng thành trong phòng ở đây. Điều đó thật thú vị, vì tôi nghĩ đó là một động lực đã thay đổi. Nếu bạn hỏi mọi người cách đây một năm, gần hai năm, ai là người đóng vai trò đó khi các công ty AI này bắt đầu bùng nổ mạnh mẽ, tôi nghĩ nhiều người sẽ chỉ vào Microsoft và Satya Nadella. Tôi cảm thấy Microsoft — vì nhiều lý do mà chúng ta không cần đi sâu vào lúc này — đã mất đi vị thế là người trưởng thành trong phòng. Chắc chắn một phần vì Nadella từng nói ông ấy sẽ khiến Google phải "nhảy múa", rồi điều đó không bao giờ xảy ra. Và thực tế, theo nhiều cách, điều ngược lại đã xảy ra.

Tôi nghĩ Jensen không chỉ hiểu rằng ông ấy cần làm hài lòng nhiều người nhất có thể nên muốn đưa ra những phát ngôn chừng mực nhất, mà ông ấy còn là một trong những cầu nối hữu ích nhất giữa lĩnh vực này và chính quyền hiện tại, đến mức ông ấy nhận được cuộc gọi từ Tổng thống khi đang đứng trên sân khấu tại hội nghị cấp cao và có sự tham gia đông đảo này, cho phép cả hai phản hồi về tất cả những mớ hỗn độn này.

Kirsten: [Về] quan điểm của anh cho rằng ông ấy là người trưởng thành trong phòng và là cầu nối, ông ấy đang ở vị thế có thể làm điều đó. Nhưng theo quan điểm của tôi, tôi cho rằng [sự xuất hiện của ông ấy], vốn có vẻ hơi dàn dựng, đã đi quá xa và thực sự làm nổi bật thực tế rằng Nvidia hưởng lợi rất nhiều từ việc AI tiếp tục phát triển mà không bị kìm hãm.

Tôi không muốn tỏ ra hoài nghi, nhưng đó là phản ứng ban đầu của tôi về điều đó.

Anthony: Lợi ích của Trump và Huang đang song hành với nhau, và [Huang] cũng đang nói [với Trump] những gì ông ấy muốn nghe.

Tôi nghĩ một số điều mà ông ấy tập trung cụ thể vào rất đáng để phân tích kỹ hơn một chút. Đầu tiên, ông ấy nói về ý tưởng: “Chúng ta sẽ không có sự giảm tốc nào cả.” Thật thú vị, chỉ riêng cụm từ “giảm tốc” (slowdown) đã xuất hiện rất nhiều — nhưng đồng thời, cả Altman và Amodei [đều] sử dụng ngôn ngữ giảm tốc, nhưng từ họ thích dùng hơn là “điều tiết tốc độ” (pace), đúng không?

Và ba đề xuất này — những đề xuất mà cô vừa mô tả, Kirsten — về lý thuyết, chúng có thể dẫn đến việc mọi thứ chậm lại, nhưng họ không nói điều đó một cách rõ ràng. Họ chỉ nói: “Này, chúng tôi đang thực hiện một số biện pháp an toàn cơ bản và để một số người giám sát chúng tôi.” Nhưng không có điều nào trong số đó nói một cách bản chất rằng mọi thứ phải diễn ra chậm hơn hiện tại, ít nhất là theo cách tôi hiểu.

Kirsten: Vậy tôi có một câu hỏi cho Sean. Chẳng phải anh có thể lập luận rằng trong một xã hội thị trường tự do, chúng ta đã có sẵn các quy định, và [trong] môi trường cạnh tranh không có chủ nghĩa bảo hộ, nếu một công ty phát hành thứ gì đó không an toàn, họ sẽ không còn là một công ty khả thi nữa sao? Và hiện nay đã có các cơ quan quản lý có thể xử lý các công ty này? Hay anh bác bỏ ý tưởng đó?

Sean: Trong môi trường lý tưởng, hoặc trong một thị trường không bị bóp méo bởi hàng loạt áp lực bên ngoài khác nhau, vâng, tôi nghĩ có một phần sự thật trong đó. Nhưng chúng ta có một chính phủ liên bang hiện tại chắc chắn không có vẻ gì là muốn thực thi các quy định nói chung, chứ chưa nói đến việc thực thi cụ thể trong lĩnh vực này.

Và chúng ta cũng đang ở trong tình huống kỳ lạ này — tôi không thực sự biết cách diễn đạt đúng nhất, nhưng dường như không có nhiều sự lựa chọn của người tiêu dùng để thúc đẩy thị trường này, theo nghĩa là, nếu một trong những công ty này làm điều gì đó thực sự tồi tệ, họ sẽ thấy tác động từ việc khách hàng hủy dịch vụ hay bất cứ điều gì tương tự.

Đặc biệt là bây giờ, khi họ đã chuyển sang mảng doanh nghiệp và kiếm được nhiều tiền hơn từ việc bán dịch vụ cho các công ty, việc "bỏ phiếu bằng tiền" ở đó tự nhiên trở nên khó khăn hơn. Các tập đoàn sẽ không đóng gói và chuyển từ Codex của [OpenAI] sang Claude Code của [Anthropic] chỉ vì họ bất đồng về nguyên tắc với điều gì đó mà OpenAI đã làm.

Và sau đó, họ cũng được hỗ trợ bởi quá nhiều tiền đầu tư đến mức giúp họ dễ dàng hấp thụ bất kỳ khoản lỗ nào nếu họ thực sự phải đối mặt với chúng. Vì vậy, tôi nghĩ đó là một ý tưởng hay về mặt lý thuyết, nhưng tôi cảm thấy trên thực tế, không có điều đó thực sự xảy ra.

Khi bạn mua hàng qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.