Liệu AI có cần được miễn trừ chống độc quyền để tránh thảm họa nhân loại?

Hôm nay trên Decoder, chúng tôi mang đến phần đầu tiên trong loạt bài gồm hai phần về tương lai của doanh nghiệp, và tôi đang trò chuyện với Jonathan Kanter, cựu giám đốc chống độc quyền của Bộ Tư pháp Hoa Kỳ dưới thời chính quyền Biden. Hiện nay, ông vừa là giáo sư luật tại WashU, vừa là giáo sư về chính sách công nghệ tại Carnegie Mellon.

Câu chuyện lớn nhất trong giới công nghệ hiện nay là cuộc tranh luận không hồi kết về an toàn và quy định đối với AI. Các nhà nghiên cứu tại những phòng thí nghiệm AI lớn bao gồm Anthropic và Google DeepMind đã nghỉ việc một cách ồn ào, cho rằng các mô hình này gây ra những mối đe dọa thực sự và vấn đề an toàn đang không được ngành công nghiệp coi trọng đúng mức. Những nhà nghiên cứu khác thì cho rằng khả năng AI tiêu diệt nhân loại là lớn hơn 10 phần trăm, và các CEO của tất cả những công ty này đã đưa ra nhiều lời kêu gọi khác nhau về việc làm chậm quá trình phát triển và xây dựng quy định, bao gồm cả việc yêu cầu miễn trừ chống độc quyền để họ có thể phối hợp với nhau về các vấn đề an toàn.

Có rất nhiều ý tưởng được đưa ra, và tôi đặc biệt tò mò về khía cạnh chống độc quyền, điều đã dẫn đến những cáo buộc rằng các công ty này đang tìm cách thâu tóm quyền quản lý (regulatory capture), cố gắng hình thành một tập đoàn độc quyền (cartel), và thậm chí tìm cách thoát khỏi áp lực từ nhà đầu tư trước thềm IPO của họ.

Các thuê bao của Verge, đừng quên rằng bạn có quyền truy cập độc quyền vào Decoder không quảng cáo ở bất cứ nơi nào bạn nghe podcast. Hãy truy cập tại đây. Bạn chưa đăng ký? Bạn có thể đăng ký tại đây.

Vì vậy, để hiểu rõ mọi thứ, tôi đã gọi cho Jonathan Kanter.

Jonathan đã thực hiện các vụ kiện chống độc quyền lớn nhắm vào Google, Apple và Ticketmaster trong thời gian làm giám đốc chống độc quyền, và cùng với Lina Khan, ông đã dẫn dắt một cuộc cải tổ toàn diện chính sách chống độc quyền của Mỹ. Như bạn sẽ nghe ông ấy chia sẻ, ông đã thắng các vụ kiện chống lại Google và Ticketmaster, còn vụ kiện chống lại Apple vẫn đang tiếp diễn dưới thời Bộ Tư pháp của chính quyền Trump, điều khiến nhiều người ngạc nhiên.

Cuộc cải tổ đó cũng dẫn đến một số liên minh đáng ngạc nhiên trong cuộc tranh luận về AI — David Sacks, một người theo chủ nghĩa tự do cá nhân (libertarian) và là cựu "ông trùm" AI dưới thời Trump, đã retweet ủng hộ Lina Khan khi bà nói rằng không cần thiết phải có sự miễn trừ chống độc quyền.

Mọi thứ rất phức tạp, và bạn sẽ nghe tôi cùng Jonathan đi sâu vào chi tiết về cách thức vận hành của các quy định này, cũng như cách chúng tương tác với luật chống độc quyền, chính sách cạnh tranh và mối quan hệ của chúng ta với Trung Quốc.

Được rồi: Jonathan Kanter, cựu giám đốc chống độc quyền của Bộ Tư pháp, bàn về an toàn và quy định AI. Bắt đầu thôi.

Bài phỏng vấn này đã được biên tập nhẹ để đảm bảo độ dài và sự rõ ràng.

Jonathan Kanter, ông là cựu lãnh đạo Bộ phận Chống độc quyền của Bộ Tư pháp dưới thời chính quyền Biden và hiện là giáo sư luật tại WashU và giáo sư chính sách công nghệ tại Carnegie Mellon. Chào mừng ông trở lại với Decoder.

Rất vui được trở lại.

Thật tuyệt. Bây giờ ông là một công dân bình thường. Ông không cần phải trả lời tôi bằng những câu trả lời kiểu chính trị gia nữa.

Tôi có thể nói bất cứ điều gì mình muốn. Tôi cảm thấy thật tự do.

Tôi rất hào hứng về điều này.

Tôi cũng dự định như vậy.

Tôi có hàng triệu câu hỏi về tình trạng quản lý AI tại Mỹ hiện nay. Có rất nhiều ý tưởng trái chiều về việc chúng ta nên hay không nên quản lý các công ty này như thế nào.

Có chính quyền Trump với lập trường dường như là "không", điều này thật thú vị. Hiếm khi thấy chính phủ liên bang từ chối tham gia theo cách mà chính quyền Trump dường như đang làm. Và sau đó là một nền tảng vững chắc về mối lo ngại chống độc quyền đang bao trùm lên tất cả những điều này. Liệu các công ty này có đang cố gắng hình thành một tập đoàn độc quyền? Họ có nhận thức được rằng có lẽ các đợt IPO của họ sẽ không diễn ra như mong đợi, nên họ đang tìm cách thâu tóm quyền quản lý theo một cách nào đó, dù tốt hay xấu? Họ có đang cố gắng ngăn chặn sự cạnh tranh giá rẻ hơn từ các mô hình mã nguồn mở của Trung Quốc không?

Hãy cho tôi biết cảm nhận của ông về tình hình hiện tại, sau đó tôi muốn đi sâu vào các chi tiết cùng ông.

Tình trạng thế giới hiện nay giống như chúng ta đã phát minh ra ô tô và xe tải, nhưng lại không có vạch kẻ đường, không có đèn giao thông, không có biển báo dừng và không có giới hạn tốc độ. Chúng ta đã phát minh ra công nghệ cực kỳ mạnh mẽ này, thứ đang thay đổi cách chúng ta sống, cách chúng ta kinh doanh, cách chúng ta giao tiếp xã hội, cách chúng ta tìm kiếm, tạo ra và tiêu thụ thông tin. Chúng ta cần một số quy tắc cơ bản trên đường. Tôi nghĩ về điều này trên hai phương diện. Những việc các công ty nên làm là gì? Và những việc chính phủ nên làm là gì? Trách nhiệm thuộc về cả hai phía. Tôi rất sẵn lòng đi sâu vào cả hai.

Hãy bắt đầu với quan điểm cho rằng việc yêu cầu quy định tất yếu sẽ hình thành một tập đoàn độc quyền. Tất cả các công ty AI tiên phong lớn — OpenAI, Anthropic, Google DeepMind, thậm chí cả Elon Musk — không nhất thiết phải ưa thích nhau. Đây là những người không nhất thiết phải quý mến nhau. Họ đang đồng thanh nói rằng nên làm chậm lại. Cụm từ mà Dario Amodei từ Anthropic sử dụng là "điều tiết tốc độ tiên phong" (pace the frontier).

Cách hiểu của tôi về điều này là họ đơn giản là không tin tưởng lẫn nhau, rằng họ đang rơi vào tình thế tiến thoái lưỡng nan của tù nhân (prisoner’s dilemma) và họ cần một lực lượng bên ngoài, rất có thể là chính phủ, để áp đặt một khung chính sách nào đó mà họ buộc phải đồng ý. Đó có phải là cách hiểu công bằng về những điều cơ bản ở đây không?

Đại loại là vậy. Hãy để tôi đưa ra cách giải thích của mình, từ góc độ hào phóng nhất đến hoài nghi nhất, mà dù là cách nào đi nữa, tóm lại (TL;DR), cũng không nên dẫn đến bất kỳ sự miễn trừ chống độc quyền nào.

Cách giải thích hào phóng nhất là họ sợ tốc độ đổi mới và việc thiếu quy định đồng nghĩa với việc họ không thấy vạch kẻ đường nào cả. Họ không biết phải lái xe đi đâu và lo lắng về việc lao ra khỏi đường hoặc đâm vào người khác. Họ đang cầu xin chính phủ can thiệp và làm điều gì đó. Có lẽ có một phần sự thật trong đó. Tôi tin rằng họ tin rằng nó có thể tiêu diệt nhân loại. Tôi không chắc kịch bản ngày tận thế đó có chính xác hay không, nhưng tôi tin rằng họ tin vào điều đó. Đó là phiên bản hào phóng hơn.

Phiên bản hoài nghi hơn là họ đang chi quá nhiều tiền, họ đang cạn kiệt tiền mặt và không thể duy trì điều này, nhưng nếu họ rút lui, nó sẽ ảnh hưởng đến định giá của họ trong đợt IPO. Vì vậy, họ muốn ai đó cho phép họ ngừng chi tiêu quá nhiều và làm chậm tốc độ đổi mới để họ không phải cạnh tranh quá gay gắt, từ đó họ có thể tìm ra mô hình kinh tế của mình trước khi lên sàn chứng khoán.

Liệu một thỏa thuận giữa tất cả các bên hàng đầu trong một lĩnh vực như thế này có tự động hình thành một tập đoàn độc quyền không? Ở khía cạnh hoài nghi đó, có rất nhiều ý kiến cho rằng: "Các anh chỉ muốn thâu tóm quyền quản lý. Các anh muốn tạo ra một tập đoàn độc quyền. Các anh muốn ngăn chặn sự cạnh tranh."

Đó chắc chắn là rủi ro của kiểu sắp xếp đó. Hãy cùng xem xét những gì là cần thiết và những gì không.

Hãy để tôi nói rất rõ ràng, các công ty này không cần phải phối hợp với nhau để cung cấp các sản phẩm an toàn và bảo mật cho xã hội. Hãy nghĩ về điều này: hãy tưởng tượng Boeing và Airbus. Boeing lo sợ về việc cửa máy bay bị rơi ra. Đó không phải là lỗi của Airbus và họ không cần phải làm chậm sự đổi mới cùng với Airbus để ngăn chặn những cánh cửa đó rơi ra khỏi máy bay. Họ cần tìm cách chế tạo những chiếc máy bay an toàn hơn. Nếu bạn chế tạo những chiếc xe phát nổ khi bạn đang lái, đó không phải là lỗi của công ty xe hơi khác và bạn không cần phải tập hợp lại để tìm cách giải quyết những vấn đề đó. Bạn cần tìm ra những gì đã sai trong quy trình sản xuất của mình. Nếu bạn tạo ra các sản phẩm tạo ra các tác nhân AI đột nhập vào hệ thống của người khác và hack công nghệ của người khác, thì trong tâm trí tôi, điều đó không khác gì việc có một nhân viên làm điều đó.

Bạn có trách nhiệm xây dựng các sản phẩm an toàn và bảo mật, và các công ty phải chịu trách nhiệm khi các tác nhân của họ, dù là tác nhân kỹ thuật số và nhị phân, hay tác nhân AI, hay tác nhân con người, gây ra vấn đề. Nếu chúng bắt đầu làm những điều xấu, công ty thuê chúng có thể và phải chịu trách nhiệm. Đó là những quy tắc cơ bản trên đường. Có những lĩnh vực mà sự hợp tác là hợp pháp trong bối cảnh an toàn và bảo mật. Ví dụ, có một trung tâm thanh toán bù trừ để chia sẻ các mối đe dọa, bot độc hại hoặc những thứ khác mà bạn có thể tạo kho lưu trữ để mọi người có thể xây dựng các sản phẩm an toàn hơn. Đó là những kiểu hợp tác diễn ra trong các ngành công nghiệp khác và bạn không cần miễn trừ chống độc quyền vì luật chống độc quyền không cấm kiểu công việc đó. Nếu hai công ty nói: "Chúng ta đang cạnh tranh quá gay gắt và chúng ta cần làm chậm lại", thì vâng, điều đó có thể liên quan đến luật chống độc quyền, nhưng đó không phải là điều chúng ta nên làm ở đây.

Chúng ta nên đổi mới, nhưng các công ty phải có trách nhiệm xây dựng các sản phẩm an toàn và bảo mật, và chính phủ phải chịu trách nhiệm đặt ra các vạch kẻ đường rằng: "Nếu bạn không xây dựng một sản phẩm an toàn và bảo mật, đây là những hậu quả. Nếu bạn không xây dựng một sản phẩm an toàn và bảo mật, đây là trách nhiệm pháp lý có thể xảy ra. Nếu bạn không xây dựng một sản phẩm an toàn và bảo mật, thì có lẽ nên có một 'nhà tù robot' cho các tác nhân của bạn và nó nên bị loại bỏ khỏi thị trường."

Tôi muốn đào sâu vào khái niệm "nhà tù robot" cụ thể. Với áp lực mà chúng ta đang đặt lên thứ có vẻ như là luật trách nhiệm sản phẩm. Có điều gì đó ở đây mà tôi muốn nói cụ thể hơn, nhưng vợ tôi là luật sư. Tôi đã nói với cô ấy rằng tôi đang nói chuyện với ông sáng nay và tôi đã cố gắng giải thích rằng có những rạn nứt ở đây và cô ấy chỉ nhìn tôi và nói: "Đây chỉ là một giả thuyết ác mộng ở trường luật". Những gì ông đang mô tả là: "Liệu luật dân sự (tort law) có tạo ra một khung pháp lý cho các công ty này không?" Và đâu đó trong đó là: "Nếu tác nhân của tôi đi hack bạn, chỉ thị của tôi là Anthropic phải chịu lỗi. Chúng ta có định tạo ra một loại trách nhiệm pháp lý chuyển tiếp nào đó không? Điều đó đã xảy ra chưa hay chưa? Chúng ta có cần một luật khác hoặc luật làm rõ không?" Quan điểm của ông về điều này là gì? Nếu tôi chỉ đạo tác nhân Meta Muse của mình đi tấn công bạn và nó làm điều đó, đó có phải là lỗi của Meta không?

Cả hai. Các công ty thuê nhân viên và họ xây dựng công nghệ. Khi những người đó và những công nghệ đó làm những điều có vấn đề, bao gồm cả việc ăn cắp hoặc đột nhập vào tài sản của người khác thay mặt cho chủ lao động của họ, thì có trách nhiệm pháp lý và đó có thể là trách nhiệm sản phẩm, nhưng nó có thể còn hơn cả trách nhiệm sản phẩm. Bạn chỉ là những người làm điều xấu hoặc các công ty tạo ra công nghệ đang làm điều xấu. Và khung trách nhiệm sản phẩm thực sự đã hoạt động gần đây nhất trong vụ kiện chống lại Meta về Facebook và Instagram cũng như an toàn trẻ em và sức khỏe tâm thần.

Khoan đã, chờ chút. Điều đó thực sự hấp dẫn đối với tôi. Đây là điều tôi thực sự quan tâm, bởi vì phải mất một thập kỷ để nó có hiệu quả.

Đó chính là vấn đề! Đây là nơi chính phủ cần can thiệp. Các công ty ngày nay có nghĩa vụ xây dựng các sản phẩm an toàn và bảo mật và tốc độ đổi mới không phải là cái cớ để không làm điều đó. Hãy nói rất rõ ràng về điều đó. Đồng thời, chúng ta đã phát minh ra ô tô, xe tải và tàu hỏa và chúng ta không có đường ngang, không có đèn, không có vạch kẻ đường. Quốc hội hoàn toàn không có khả năng làm bất cứ điều gì. Trong khi các công ty công nghệ này đang nói rằng họ muốn quy định, họ lại tích cực vận động hành lang chống lại nó và đã làm như vậy trong một thời gian rất dài. Toàn bộ sự việc là một mớ hỗn độn hoàn toàn và là triệu chứng của hệ thống của chúng ta, vốn là một mớ hỗn độn. Và thẳng thắn mà nói, nếu nhà khoa học chính trị trong tôi truy nguyên điều đó về những thứ như phân chia khu vực bầu cử (gerrymandering) và Citizens United, nơi quy trình của chúng ta đã mất kiểm soát và Quốc hội, nơi đáng lẽ phải làm công việc cơ bản là đặt ra các tiêu chuẩn an toàn và trách nhiệm cơ bản, đã không làm điều đó.

Mặc dù vậy, việc Quốc hội thiếu hành động không phải là cái cớ để cung cấp các sản phẩm nguy hiểm. Nếu bạn tin rằng sản phẩm của mình sẽ tiêu diệt nhân loại, thì đừng chế tạo nó. Nếu bạn tin rằng sản phẩm của mình sẽ đột nhập vào đồ đạc của người khác, thì hãy quay lại bảng vẽ và tìm cách chế tạo nó theo cách an toàn hơn.

Đoán xem? Đó là sự đổi mới. Đây là những vấn đề về đổi mới, không chỉ là vấn đề về quy định. Chúng ta cần làm tốt hơn việc khuyến khích các công ty của mình xây dựng các sản phẩm an toàn và bảo mật hơn. Khi họ làm điều đó, các sản phẩm đó sẽ hoạt động tốt hơn và chúng ta sẽ thấy sự đổi mới tốt hơn. Hiện tại, sự đổi mới là bất đối xứng vì nó được thực hiện mà không có sự quan tâm đúng mức đến an toàn và bảo mật, giống như những gì chúng ta đã thấy trên mạng xã hội. Kết quả là, bây giờ chúng ta có những sản phẩm thực sự tốt và thực sự hiệu quả trong việc giúp mọi người giao tiếp, nhưng lại thực sự tồi tệ khi nói đến chứng nghiện ở trẻ em và sức khỏe tâm thần. Có lẽ chúng ta nên rút ra bài học và khuyến khích mọi người xây dựng các sản phẩm an toàn hơn, bảo mật hơn ngay từ đầu, ngay từ khi bắt đầu công nghệ này.

Hãy để tôi so sánh chặt chẽ hơn với quy định về mạng xã hội. Chúng ta vừa có vụ kiện Meta lớn; đó là một vụ kiện về trách nhiệm sản phẩm. Các sản phẩm của họ được thiết kế theo cách gây hại cho thanh thiếu niên. Meta đã dàn xếp vụ kiện vì tôi nghĩ Mark Zuckerberg thà xây dựng AI còn hơn là quan tâm đến việc kiểm duyệt Facebook.

Nhưng họ đã thua một vụ trước bồi thẩm đoàn.