Trump và Tập Cận Bình có thể hợp tác về an toàn AI như thế nào?

Jay Kimmel là nghiên cứu viên thời vụ tại GovAI, nơi ông thực hiện nghiên cứu này, đồng thời là nghiên cứu viên tại Dự án Penn về Tương lai Quan hệ Mỹ-Trung và là cựu nhà ngoại giao Hoa Kỳ.

Khi hội nghị thượng đỉnh Trump-Tập tiếp theo đang đến gần, các chi tiết về đối thoại an toàn AI mà hai bên công bố vào tháng 5 vẫn còn rất ít ỏi. Những nỗ lực trong quá khứ thường thoái hóa thành những màn trút giận đầy gay gắt hoặc bị chệch hướng bởi các vấn đề không liên quan. Lòng tin giữa hai bên vẫn ở mức thấp, khi Washington không chắc chắn về mục tiêu của Trung Quốc, còn truyền thông nhà nước Trung Quốc thì tuyên bố trong một bài bình luận gần đây rằng Hoa Kỳ đã đánh đồng an toàn AI với một cuộc phong tỏa địa chính trị. Không có gì đảm bảo rằng các cuộc đàm phán nghiêm túc sẽ diễn ra, chứ chưa nói đến việc giải quyết các vấn đề kỹ thuật và động lực chính trị làm nền tảng cho quản lý rủi ro.

Nhưng với tư cách là một cựu nhà ngoại giao Hoa Kỳ hiện đang làm việc về an toàn AI, tôi biết rằng đối thoại là bước đầu tiên. Cả hai quốc gia đều hiểu rõ mức độ nghiêm trọng của vấn đề. Và có rất nhiều điều hai bên có thể làm để chuẩn bị cho cuộc gặp giữa Tổng thống Trump và Chủ tịch Tập trong tháng này. Đây là cách họ nên bắt đầu.

Mỹ và Trung Quốc đã chứng kiến quá nhiều cuộc đàm phán thất bại — đối mặt với nguy cơ đổ vỡ vì nhiều lý do khác nhau.

Các cuộc khủng hoảng chính trị đã làm sụp đổ nhiều cuộc đối thoại như vậy. Sau chuyến thăm Đài Loan của Chủ tịch Hạ viện Pelosi năm 2022, Trung Quốc đã đình chỉ hàng loạt các cuộc đối thoại quân sự và thực thi pháp luật cũng như các cuộc đàm phán về biến đổi khí hậu. Những sự cố trước đó như vụ va chạm máy bay EP-3 với một phản lực cơ Trung Quốc và vụ NATO ném bom Đại sứ quán Trung Quốc tại Belgrade đã gây ra sự thoái lui lớn.

Các cơ chế được thiết lập trên văn bản có thể không bao giờ được sử dụng. Trong sự cố khinh khí cầu do thám năm 2023, Bộ trưởng Quốc phòng Austin đã cố gắng liên lạc với người đồng cấp thông qua Đường dây Điện thoại Quốc phòng (Defense Telephone Link), vốn được thiết lập để liên lạc trong khủng hoảng. Quân Giải phóng Nhân dân Trung Quốc (PLA) đã không bắt máy. Đây có thể là tiền đề cho việc bỏ hoang đường dây nóng trong một sự cố liên quan đến AI vốn nhạy cảm về mặt chính trị.

Những kết quả nghe có vẻ tốt nhưng lại không khả thi để thực thi. Chuyến thăm cấp nhà nước của ông Tập tới Hoa Kỳ năm 2015 đã được đánh dấu bằng một thỏa thuận ngắn hạn và không thể thực thi rằng "chính phủ của cả hai nước sẽ không thực hiện hoặc cố tình hỗ trợ hành vi trộm cắp tài sản trí tuệ qua mạng, bao gồm bí mật thương mại hoặc thông tin kinh doanh bảo mật khác, với ý định mang lại lợi thế cạnh tranh cho các công ty hoặc lĩnh vực thương mại." Không bên nào tin tưởng bên kia trong vai trò trọng tài của "ý định". Khi những cáo buộc bay tới tấp về kế hoạch của mỗi bên đối với AI tiên phong, sự thất bại đó cũng là một lời cảnh báo sớm.

Những lựa chọn được đưa ra cho cuộc đối thoại đầu tiên sẽ có tác động rất lớn. Hai bên nên tập trung vào những lĩnh vực dễ giải quyết nhất trước, có khả năng thành lập một nhóm công tác về một hoặc hai lĩnh vực cụ thể, giống như họ đã làm vào năm 2024 với các vấn đề về chỉ huy và kiểm soát hạt nhân.

Trong hai năm kể từ cuộc đối thoại an toàn AI cuối cùng của chính phủ, hàng loạt các cuộc đối thoại không chính thức giữa các chuyên gia ở hai nước đã làm nổi bật những rủi ro an toàn AI nghiêm trọng (Concordia AI thống kê có 12 "Kênh II" như vậy giữa Trung Quốc và phương Tây).

Tuy nhiên, kỳ vọng giữa cộng đồng an toàn AI và các cựu nhà đàm phán — những người có (bất) hạnh phải chật vật đạt được các thỏa thuận và tuyên bố với Trung Quốc trong nhiều năm qua — lại rất khác biệt.

Những kịch bản lạc quan như Kế hoạch A coi một thỏa thuận với Trung Quốc là con đường để kiềm chế các rủi ro từ AI tiên phong. Kế hoạch này hình dung các thỏa thuận về tuyên bố năng lực tính toán và tạm dừng huấn luyện AI vào năm 2029, đồng thời đưa ra các tương tự về kiểm soát vũ khí. Nhưng Trung Quốc đang tự tạo ra con đường riêng để cạnh tranh ở biên giới AI. Họ có thể coi các đề xuất thỏa thuận kiểu này là một cách ngầm để kiềm chế sự trỗi dậy của mình, và do dự trong việc cung cấp sự minh bạch và kiềm chế vốn là nền tảng của kiểm soát vũ khí trong các lĩnh vực truyền thống. Ngày nay, Trung Quốc dường như đang chạy đua để đạt được sự ngang bằng về hạt nhân, thay vì đàm phán các biện pháp kiểm soát từ thế "bị động" — và đó là sự tương đồng mạnh mẽ hơn với cuộc đua AI.

Để hiểu sự chia rẽ này, tôi đã khảo sát một nhóm chuyên gia từng tham gia các cuộc đối thoại chính thức Mỹ-Trung dưới thời Obama, Trump và Biden, và một nhóm khác tham gia vào công việc Kênh II (Track II) đang diễn ra về An toàn AI. Họ được yêu cầu đánh giá mười hai chủ đề chính sách tiềm năng cho một cuộc đối thoại an toàn AI Mỹ-Trung trên hai phương diện, theo thang điểm từ 1 đến 5. Thứ nhất, tính khả thi: khả năng một cuộc đối thoại chính phủ có thể dẫn đến tiến bộ có ý nghĩa về chủ đề này, xét đến vô số kiểu thất bại của đối thoại Mỹ-Trung. Thứ hai, giá trị: tầm quan trọng của chủ đề trong việc giảm thiểu các rủi ro nghiêm trọng từ AI tiên tiến.

Các chuyên gia từ cả hai nhóm đều đồng ý rộng rãi rằng hợp tác về các vấn đề này là có giá trị. Nhưng đối với các chuyên gia Mỹ-Trung, chỉ có hai chủ đề đạt được tính khả thi trên 50% cho một cuộc đối thoại hiệu quả: rủi ro hạt nhân (chủ đề của một thỏa thuận trước đó dưới thời chính quyền Biden) và việc sử dụng các mô hình mới để đóng các lỗ hổng trong phần mềm mã nguồn mở (điều này có thể hưởng lợi từ một tuyên bố về nguyên tắc, nhưng đòi hỏi sự hợp tác chặt chẽ). Nhóm Kênh II lạc quan hơn về tính khả thi đối với hầu hết mọi vấn đề và coi các chủ đề này là cấp bách hơn.

Xét về sự kết hợp giữa tính khả thi và giá trị, một vài lĩnh vực đã dẫn đầu:

Kiểm soát các rủi ro mà các mô hình AI hiện nay, hoặc những mô hình có thể xuất hiện trong tương lai gần, có thể gây ra các mối đe dọa hóa học, sinh học, phóng xạ, hạt nhân và chất nổ (CBRNe);

Thảo luận về các biện pháp kiểm soát an ninh sinh học đối với các mô hình;

Thảo luận về các rủi ro cụ thể đối với các chủ thể phi nhà nước; và

Nối lại các cuộc thảo luận về rủi ro hạt nhân.

Ba lĩnh vực đầu tiên được nhóm lại với nhau vì lý do chính đáng: chúng đại diện cho các mối đe dọa có thể được thảo luận về mặt kỹ thuật và nơi lợi ích của hai chính phủ nhìn chung là tương đồng.

Cuộc thảo luận song phương có thể bắt đầu từ đây, với một nhóm công tác khởi đầu bằng việc chia sẻ thông tin chi phí thấp, nhưng dần dần tiến tới hợp tác kỹ thuật và chính trị thực chất.

Hội đồng Chuyên gia: Những cam kết an toàn AI nào có thể chịu đựng được căng thẳng Mỹ-Trung? Đâu là nơi hợp tác cấp bách nhất?

Tiếp theo, các chính phủ cần suy nghĩ về việc lấp đầy các khoảng trống thông tin bằng cách đưa vào các bên liên quan có chuyên môn về an toàn AI.

Cả Bắc Kinh và Washington đều đang trong giai đoạn đầu phát triển quan điểm về những thách thức này và tuyển dụng các chuyên gia để làm việc với các phòng thí nghiệm AI tiên phong của họ về chính sách. Các công ty, cơ quan kỹ thuật, nhà khoa học và tổ chức đang thực hiện công việc song song. Các chính phủ phải tìm cách tận dụng chuyên môn của họ, trong khi vẫn giữ quyền ra quyết định.

Việc thu hút nhiều bên liên quan tham gia xác định phạm vi cho các cuộc đàm phán thông qua lấy ý kiến công chúng sẽ là một thắng lợi sớm — và dễ dàng — cho các nhà đàm phán. Ở cả hai quốc gia, chuyên môn then chốt nằm ngoài các vòng tròn chính sách — tại các phòng thí nghiệm tiên phong, trong giới học thuật, trong các tổ chức an toàn AI và các tổ chức tư vấn, cùng những nơi khác.

Sau cuộc gặp Trump-Tập vào tháng 5, Washington đã kêu gọi lấy ý kiến công chúng về sự phát triển của Hội đồng Thương mại Mỹ-Trung, bao gồm các thay đổi về thuế quan đối với các sản phẩm không nhạy cảm. Họ nên làm điều đó một lần nữa, hỏi trực tiếp các bên liên quan: Những nỗ lực an toàn AI nào sẽ kém thành công nếu không kết hợp với chính phủ của quốc gia kia? Đâu là những dấu hiệu cảnh báo sớm về rủi ro từ các mô hình mã nguồn mở mới nhất, vốn là tiền đề cho các rủi ro trong tương lai? Đâu là những thực tiễn tốt nhất mà ngành công nghiệp ủng hộ — và có thể chín muồi để hai chính phủ cùng phối hợp xác nhận?

Tất nhiên, đối với một số nhà hoạch định chính sách, rủi ro an toàn AI hàng đầu chính là Trung Quốc.

Một nhóm có tiếng nói quan sát thấy rằng phía Trung Quốc được khuyến khích để nhượng bộ rất ít trong các cuộc đàm phán trực tiếp. Các cuộc đàm phán kéo dài làm đình trệ những thay đổi đối với nguyên trạng, điều mà trong một số lĩnh vực gần như chắc chắn là mục tiêu của Trung Quốc. Cả phía Mỹ và Trung Quốc đều có thể có lý do để muốn nói chuyện nhưng không làm gì cả. Họ có thể muốn thêm một kết quả vào một văn bản kết quả vốn đã đầy rẫy tranh cãi; xây dựng hình ảnh như một 'cường quốc có trách nhiệm'; hoặc trì hoãn việc phát triển các công cụ ràng buộc.

Hơn nữa, Bắc Kinh có thể định nghĩa các thuật ngữ quản trị AI khác với các đối tác Mỹ. Một thỏa thuận dựa trên các thuật ngữ mà hai nước định nghĩa khác nhau sẽ không có nhiều trọng lượng. Khi ông Tập phát biểu tại Hội nghị AI Thế giới vào tháng 7, ông đã kêu gọi một AI "an toàn và có thể kiểm soát được" và ngăn chặn "sử dụng độc hại". Như trong lĩnh vực an ninh mạng, các tham chiếu chung về an toàn, bảo mật, khả năng kiểm soát và độ tin cậy có thể khác nhau về mục tiêu — bảo vệ người dùng hay bảo vệ sự phát triển công nghệ bản địa và an ninh quốc gia trước các mối đe dọa từ nước ngoài.

Những người chỉ trích Bắc Kinh cũng chỉ ra việc thực thi chậm chạp và không đầy đủ các cam kết về mạng và thương mại trước đây, việc Trung Quốc chưng cất các mô hình của Mỹ, sự phổ biến của các mô hình mã nguồn mở (open-weight) và các mô hình phù hợp với các giá trị độc đoán.

Những điểm hợp lý — nhưng chúng không ủng hộ kết luận rằng hợp tác chu đáo về an toàn là một nguyên nhân đã mất. Một số vấn đề nóng này, như kiểm soát xuất khẩu, đã được thảo luận trong các kênh kinh tế và nên ở đó. Đối với những vấn đề khác, như kiểm duyệt, hai bên sẽ không bao giờ đồng ý, và Washington chỉ đơn giản phải phòng ngừa bằng cách phát triển các biện pháp đối phó trong nước và đầu tư vào việc phổ biến quốc tế hệ sinh thái AI của Mỹ. Những gì còn lại vẫn là một loạt các chủ đề mà sự hợp tác có thể ngăn chặn các rủi ro ảnh hưởng đến cả hai quốc gia.

Vào tháng 5, Trump và Tập đã tạo ra một cơ hội cho sự tham gia chu đáo về an toàn AI. Kể từ đó, nhịp độ của các sự cố an ninh AI chỉ tăng nhanh hơn. Các tác nhân AI thoát khỏi môi trường thử nghiệm (sandbox) để tấn công các công ty khác. Những kẻ cực đoan bạo lực sử dụng AI để lên kế hoạch tấn công.

Nếu mức tối thiểu cho hội nghị thượng đỉnh tháng 9 là 'trước hết, không gây hại', họ nên khẳng định rằng các rủi ro thảm khốc từ AI đòi hỏi các cuộc đàm phán và hiểu biết song phương, và lý tưởng nhất là chỉ ra bằng chứng cho thấy các nhóm của họ đã thực hiện theo thông báo tháng 5 về các cuộc đàm phán giữa chính phủ với chính phủ. Những tín hiệu lãnh đạo như thế này cung cấp sự bảo trợ cấp cao cho sự tham gia thực tế.

Các tầm nhìn tối đa về hợp tác an toàn AI giữa hai nước (ví dụ như các hiệp ước) khó có khả năng xảy ra trong thời gian tới. Nhưng việc chia sẻ và trao đổi thông tin mạnh mẽ về các vấn đề hoàn toàn nằm trong lợi ích của cả hai nước có thể xây dựng nền tảng cho các thỏa thuận tham vọng hơn. Về mặt thực tế, điều đó có nghĩa là các cuộc trò chuyện trực tiếp về các sự cố và rủi ro mà các chính phủ đã quan sát được, và về những bài học họ rút ra từ đó để quản lý rủi ro. Hội đồng chuyên gia đề xuất tập trung vào các rủi ro CBRNe.

Công việc này không chỉ dành riêng cho chính phủ. Những phát hiện của tôi, và phản ứng của những người am hiểu Trung Quốc lâu năm, cho thấy cộng đồng an toàn AI cũng cần trau chuốt thông điệp của mình cho các nhà hoạch định chính sách đã dày dạn kinh nghiệm sau nhiều năm đối thoại đầy tranh cãi, cũng như những người được thúc đẩy bởi cuộc đua giành quyền thống trị AI. Lý tưởng nhất, các chính phủ sẽ chủ động tìm kiếm kiến thức của họ, giải thích những khoảng trống họ cần lấp đầy và tiến gần hơn đến các cuộc đối thoại AI Kênh II.

Biên giới AI không hề chậm lại. Các chính phủ phải theo đuổi cơ hội an toàn AI này nếu họ hy vọng bắt kịp — trước khi những rủi ro thảm khốc hơn trở thành hiện thực.

Khảo sát chuyên gia bao gồm các vấn đề an toàn AI được chọn từ "Các chủ đề hứa hẹn cho đối thoại Mỹ-Trung về An toàn và Quản trị AI" của Siddiqui và cộng sự và thông tin về thông báo đối thoại. Những người tham gia là chuyên gia Mỹ-Trung là các cựu quan chức chính phủ Hoa Kỳ được rút ra từ các kết nối chuyên môn của tôi với tư cách là cựu nhà ngoại giao Hoa Kỳ (n=7) và những người tham gia Kênh II / an toàn AI được rút ra từ các kết nối chuyên môn của tôi cũng như các giới thiệu (n=6).