Khoảnh khắc 'thần thoại' của Trung Quốc: Bắc Kinh sẽ phản ứng ra sao?

Khoảnh khắc "thần thoại" (Mythos) của AI Trung Quốc đang đến gần. Điều gì sẽ xảy ra tiếp theo?

Claude Mythos đã làm đảo lộn hoàn toàn chính sách AI của Mỹ. Chính quyền Trump 2.0 — một chính quyền với những tuyên bố hùng hồn về sự thống trị AI nhưng lại thể hiện cách tiếp cận quản lý "thả nổi" — đang bị chấn động. Xin được trích dẫn lời Dean Ball: "Chúng ta hiện đang có một chế độ cấp phép tiền kiểm duyệt không chính thức đối với các mô hình tiên phong" từ chính chính quyền đã hứa hẹn điều ngược lại.

Liệu Bắc Kinh có hoảng loạn khi đối mặt với viễn cảnh người dân trong nước được tiếp cận rộng rãi với một mô hình có khả năng hack mọi thứ? Chúng ta có lẽ không phải đợi lâu để biết câu trả lời. Một đồng sáng lập của Zhipu AI đã tự tin tuyên bố trên X với Elon Musk rằng Trung Quốc sẽ có một mô hình ngang hàng với Mythos trước cuối năm nay. Ngay cả khi ông ấy dự đoán sai vài tháng, thì tổ chức tư vấn IAPS của Mỹ cũng dự báo thời điểm đó là tháng 2 năm 2027. Một mô hình cấp độ Mythos của Trung Quốc là điều không thể tránh khỏi và chỉ còn cách vài tháng nữa. Chính trị giờ đây không chỉ định hình hệ sinh thái phần cứng mà còn cả tầng mô hình.

Bước ngoặt này có ý nghĩa gì đối với hệ sinh thái AI nội địa Trung Quốc, quy định của Trung Quốc, mã nguồn mở tại Trung Quốc và trên toàn thế giới, các nỗ lực quản trị Mỹ-Trung và an toàn AI toàn cầu rộng lớn hơn? Để thảo luận về vấn đề này, chúng tôi mời trở lại chương trình Kevin Xu từ Interconnected và Matt Sheehan từ Carnegie.

Trong tập này, chúng ta sẽ thảo luận về…

Liệu Bắc Kinh có hoảng loạn như Washington khi Trung Quốc sở hữu mô hình cấp độ Mythos của riêng mình, và tại sao khoảnh khắc đó có thể chỉ còn cách vài tháng.

Tại sao bộ máy quản lý AI hiện tại của Trung Quốc có thể được chuẩn bị tốt hơn cho các mô hình tiên phong so với sự lúng túng của Mỹ trong việc xác định ai là người chịu trách nhiệm.

Một "Dự án Glasswing mang đặc sắc Trung Quốc" sẽ trông như thế nào và ai sẽ nằm trong danh sách khách mời.

Liệu AI ngày càng mạnh mẽ có tiêu diệt mã nguồn mở ở Trung Quốc, hay sẽ củng cố lập luận của Bắc Kinh rằng họ mới là siêu cường AI cởi mở hơn.

Tại sao các phòng thí nghiệm AI ngày nay có thể đang sở hữu tầm ảnh hưởng lớn hơn bao giờ hết đối với chính sách chính phủ.

Jordan Schneider: Matt — với tư cách là người theo dõi hàng đầu phương Tây về mọi thứ liên quan đến Trung Quốc, AI và quy định — cảm nhận của tôi khi đọc tất cả những gì anh viết là những gì Bắc Kinh đã làm cho đến nay không thực sự thay đổi cách các doanh nghiệp này vận hành. Tác động toàn cầu thực sự đầu tiên mà chúng ta thấy đối với một nhà cung cấp mô hình là việc Trump chặn Claude Fable. Nhìn vào lộ trình quản lý AI của Trung Quốc, chúng ta đã thấy những gợn sóng và các nhà quản lý đã hé lộ những gì họ lo ngại. Nhưng chúng ta không nói về Jack Ma, không nói về Didi, không nói về edtech — mọi thứ vẫn là "sống và để người khác sống". Liệu điều đó có ổn định không? Một khi họ đối mặt với một mô hình có thể hack xuyên qua những mảng lớn của thế giới mạng, các nhà quản lý Trung Quốc cuối cùng sẽ làm gì?

Matt Sheehan: Trước hết, cần làm rõ một vài điểm về ý kiến cho rằng họ đã rất "thong thả" cho đến nay. Đã có một giai đoạn mà quy định thực sự tác động đến các công ty — năm 2023, một năm sau khi ChatGPT ra mắt — khi các công ty phải hoãn phát hành mô hình trong ba tháng, sáu tháng, cho đến khi các nhà quản lý xây dựng xong quy định về AI tạo sinh và hoàn tất các phê duyệt ban đầu, vốn về cơ bản là giấy phép vào thời điểm đó và sau này trở thành dạng đăng ký. Giai đoạn đó thực sự đã làm chậm mọi thứ lại.

Kể từ đó, nó đã chuyển thành một chế độ tuân thủ nặng nề. Đó không phải là lệnh cấm hoàn toàn việc phát hành mô hình, nhưng có một loạt các bài kiểm tra mà bạn phải thực hiện và nộp kết quả. Đó là một gánh nặng cho các công ty — tiêu tốn rất nhiều giờ làm việc của nhân viên. Phần lớn thời gian đó dành cho nội dung: nội dung chính trị, các vấn đề xã hội — về cơ bản là đảm bảo rằng chế độ kiểm duyệt internet, quản lý thông tin và kiểm duyệt nội dung rộng khắp của họ hoạt động hiệu quả với AI.

Câu hỏi đặt ra là điều gì sẽ xảy ra khi một mối đe dọa mới tương đương với các mối đe dọa về nội dung xuất hiện trong mắt ĐCSTQ — đó là các cuộc tấn công mạng do AI hỗ trợ. Họ đã xây dựng cơ sở hạ tầng để xử lý việc này một cách trơn tru nhất có thể. Chúng ta đã chứng kiến từ tháng 4 đến tháng 7 chính quyền Trump loay hoay và lúng túng với các phản ứng, với câu hỏi lặp đi lặp lại là: ai là người chịu trách nhiệm ở đây? Việc này thuộc về Trung tâm Tiêu chuẩn và Đổi mới AI? Qua Bộ Thương mại? Hay qua NSA? Ở Trung Quốc, sự xáo trộn và cạnh tranh quan liêu là không thể tránh khỏi và vĩnh viễn, nhưng họ có một kênh cụ thể để xử lý việc này. Trước khi phát hành một mô hình, bạn phải nộp một loạt các bài kiểm tra cho CAC (Cơ quan Quản lý Không gian mạng Trung Quốc). Bạn không nhất thiết phải nộp trọng số mô hình — ít nhất là trong quá khứ thì chưa — nhưng bạn cần cung cấp cho họ quyền truy cập API và tài khoản để kiểm tra.

Điều đầu tiên họ sẽ làm là bổ sung các bài kiểm tra liên quan đến an ninh mạng vào chế độ kiểm tra tiền triển khai đó, vốn trước đây chỉ tập trung vào nội dung và một loạt các yêu cầu lọc thông tin. Chúng ta đã thấy một phần điều này ngày hôm qua: CAC đã thực hiện một chiến dịch chấn chỉnh các ứng dụng AI, và một hành động rút ra từ đó là MiniMax phải thêm các biện pháp bảo vệ chống lại việc tạo mã độc. Họ sẽ bổ sung tất cả những thứ đó vào.

Ngoài ra, điều đó phụ thuộc vào quy mô của mối đe dọa. Nếu họ đột ngột nhảy vọt từ vị trí hiện tại lên khả năng cấp độ Mythos, họ về cơ bản sẽ thực hiện một Dự án Glasswing của chính phủ, sau đó là Dự án Glasswing của công ty, rồi mới phát hành rộng rãi hơn. Trong các tài liệu hạn chế được công bố cho đến nay — không phải bởi chính phủ, mà bởi các nhà tư tưởng có ảnh hưởng ở đó — mối lo ngại đầu tiên là sự an toàn của các hệ thống chính phủ và cơ sở hạ tầng trọng yếu: làm thế nào để tạo ra một lộ trình nhanh chóng để vá các lỗ hổng này trước? Một khi chúng ta thực sự nhảy vọt lên mức độ năng lực đó, họ sẽ phải ưu tiên cơ sở hạ tầng chính phủ và công cộng, sau đó mới triển khai chậm rãi hướng tới việc phát hành đầy đủ mã nguồn mở.

Jordan Schneider: Kevin, điều đó nghe có hợp lý không?

Kevin Xu: Tất cả những điều đó nghe có vẻ hợp lý, nhưng cần làm rõ những gì Matt đã ngụ ý: hệ thống quản trị của Trung Quốc có nhiều tiền lệ hơn trong việc quản lý AI. Các quy tắc về tổng hợp sâu (deep synthesis) đối với nội dung đã có từ năm 2021-2022 — trước cả ChatGPT. Và còn tất cả những gì Matt đã đề cập về việc kiểm soát AI theo những cách mà chính phủ chúng ta thậm chí chưa từng nghĩ tới. Trung Quốc có các hạn chế bắt buộc: bạn hiện phải dán nhãn nội dung do AI tạo ra trên tất cả các ứng dụng mạng xã hội. Mọi người trên Douyin — không phải TikTok, mà là Douyin — hay Xiaohongshu đều biết liệu những gì họ đang xem có phải do AI tạo ra hay không. Tác động của quy định về AI tạo sinh đã được cảm nhận rõ rệt tại Trung Quốc.

Liệu câu hỏi về lỗ hổng an ninh mạng có làm đảo lộn tất cả những điều đó một cách mạnh mẽ như ở Hoa Kỳ không? Cơ sở lập luận của tôi là không. Một mô hình cấp độ Mythos có khả năng phát hiện và thực hiện các cuộc tấn công mạng mạnh mẽ bao nhiêu, thì nó cũng có khả năng tương đương trong việc phát hiện và vá các lỗ hổng đó ở phía phòng thủ. Ngay cả trước các mô hình cấp độ Mythos, AI đã khá giỏi trong việc tìm lỗi — đó chưa bao giờ là điểm yếu của các công cụ lập trình AI. Điều mà cấp độ Mythos-Fable bổ sung là khả năng thực hiện nhiệm vụ dài hạn: một mô hình hiện có thể tự chủ thực hiện một dự án gồm 10, 20, 50 bước trong nhiều giờ và nhiều tuần, đó chính là thứ bạn thực sự cần để khai thác một lỗ hổng an ninh mạng. Không phải là bạn nhìn vào một cơ sở mã, tìm một lỗi, chèn thứ gì đó vào và đột nhiên có một cuộc tấn công. Đó là việc đối chiếu chéo nhiều cơ sở dữ liệu, tệp tin và tài khoản, phát hiện các mẫu kỳ lạ nơi bạn có thể đặt một thứ vào và đi đến thứ khác. Đây là những nhiệm vụ phức tạp mà các mô hình cấp độ Mythos rõ ràng có khả năng thực hiện — và cùng khả năng đó có thể vá các lỗ hổng tương tự.

Điều có khả năng xảy ra là một sự trì hoãn phát hành dưới hình thức nào đó, nơi việc vá lỗi diễn ra trước cho các ngân hàng lớn, các ngành công nghiệp được quản lý, cơ sở hạ tầng công cộng, trước khi mô hình được tung ra ngoài cho các mục đích thương mại và dân sự thông thường. Nó sẽ được đo lường kỹ lưỡng hơn và sẽ nằm trong cơ sở hạ tầng hiện có của hệ thống quản trị Trung Quốc — theo những cách vẫn còn là ẩn số ở đây. Bạn gọi cho ai để xin phép phát hành một mô hình trong chính phủ Hoa Kỳ? Bộ Thương mại? Viện mà chúng ta đã thành lập? Bộ Tài chính? Thành thật mà nói, tôi không biết. Có lẽ là tất cả mọi người, cộng với văn phòng Chánh văn phòng Nhà Trắng. Các quy tắc thật khó hiểu.

Theo một cách nào đó, đây có thể là trường hợp duy nhất mà Trung Quốc không tìm đến Hoa Kỳ để học hỏi các mẹo và thủ thuật về cách quản lý một xu hướng mới nổi. Trung Quốc đã nhìn vào phương Tây để học cách quản lý chống độc quyền, cách quản lý thị trường chứng khoán và nhiều thứ khác. Nhưng ở biên giới công nghệ này, Trung Quốc thực sự có thể đang ở trong một vùng lãnh thổ hoàn toàn mới (de novo).

Jordan Schneider: Chà, Matt vừa nói họ sẽ thực hiện Glasswing, đó không phải là vùng lãnh thổ mới — đó là đang đi theo sự dẫn dắt của chúng ta.

Kevin Xu: Tôi không biết liệu điều đó có xảy ra hay không. Nhưng đó luôn là cảm giác của chúng ta — rằng họ sẽ làm điều gì đó mà chúng ta đã làm một tháng trước.

Jordan Schneider: Hãy cùng thảo luận qua cả hai kịch bản — Glasswing và không-Glasswing. Glasswing trông như thế này: Zhipu hoặc Ali hoặc bất kỳ ai gửi cho CAC một email nói rằng, nhìn này, chúng tôi có mô hình mới này, nó có thể hack mọi thứ, chúng ta có lẽ không nên chỉ đưa nó lên OpenRouter. Sau đó có lẽ chỉ chính phủ mới có quyền truy cập, có lẽ chính phủ cộng với các doanh nghiệp nhà nước (SOE), có lẽ chính phủ cộng với SOE cộng với hai mươi công ty yêu thích của bạn ở Trung Quốc — trong ba tháng. Tại một thời điểm nào đó, bạn sẽ có khoảnh khắc khó xử khi công ty nói "chúng tôi có thể phát hành nó bây giờ" và các nhà quản lý nói "không đời nào, chúng tôi không muốn một cuộc tấn công mạng khổng lồ vào hệ thống của chính mình từ các mô hình mở". Điều đó cuối cùng sẽ được giải quyết, và hai, ba, bốn tháng sau, mô hình được phát hành. Chúng ta có một mô hình tư duy cho điều đó.

Kịch bản điên rồ hơn là một nhà phát triển mô hình nào đó thực sự muốn cạnh tranh và phát hành nó. Ngay bây giờ, với động lực quản lý hiện tại và mức độ cạnh tranh trong hệ sinh thái, bạn có thể chỉ cần nhấn nút xuất bản một mô hình đóng hoặc thậm chí mở đại diện cho một bước tiến đáng kể về năng lực. Hãy sống trong thế giới đó đi, Matt. GLM 5.7 ra mắt và nó tốt hơn hẳn. Điều gì xảy ra tiếp theo?

Matt Sheehan: Để tôi nói lý do tại sao tôi không nghĩ điều đó sẽ xảy ra. Theo văn bản quy định của bộ, bạn nộp các hồ sơ này và hoàn thành các bài kiểm tra nhất định — và các bài kiểm tra đó không bao gồm an ninh mạng. Một khi bạn đã nộp và CAC chấp nhận, đó là giấy phép của bạn và bạn có thể tiến hành. Nhưng đó không chỉ là một quy trình chính thức. CAC liên tục giữ liên lạc với tất cả các công ty này. Ít nhất là từ một hoặc hai năm trước, họ đã tổ chức các cuộc họp hàng tuần, nơi họ triệu tập những người phụ trách quan hệ chính phủ và chính sách từ các công ty chỉ để nói về những gì mới trong chính sách AI. Một người đã nói với tôi — vào khoảng thời gian diễn ra các cuộc đình công của biên kịch Hollywood — "vâng, CAC đã gọi tất cả chúng tôi đến vào tuần trước và muốn nói về lao động, các cuộc đình công của biên kịch và suy nghĩ của chúng tôi về điều này liên quan đến Trung Quốc". Chỉ để trò chuyện thôi.

Jordan Schneider: Người quản lý thân thiện trong khu phố của bạn.

Matt Sheehan: Đó chính là CAC. Họ đã cố gắng thay đổi thương hiệu từ "cảnh sát xấu" — "bạn làm điều gì đó rồi tôi trừng phạt bạn" — sang "để tôi giúp bạn tuân thủ". Một phần của điều đó là những điểm tiếp xúc thường xuyên với các công ty. Trong môi trường đó, sẽ rất ngạc nhiên nếu một công ty Trung Quốc quyết định không báo trước cho họ mà chỉ tung ra một mô hình — về mặt kỹ thuật chúng tôi đã đáp ứng tất cả các yêu cầu, vì vậy hãy phát hành nó. Đó sẽ là hành vi rất, rất táo bạo và tự hủy hoại bản thân của một công ty công nghệ Trung Quốc.

Kevin Xu: Điều đó thậm chí không xảy ra ngày nay, với các mô hình ít năng lực hơn nhiều. Không có công ty Trung Quốc nào từng bỏ qua bước báo trước hoặc quy trình đăng ký trước khi phát hành ra công chúng.

Jordan Schneider: Dù sao thì vẫn có Didi. Họ đã được bảo là không được niêm yết, và họ vẫn niêm yết.

Kevin Xu: Đó là một chủ đề hoàn toàn khác. Đừng đánh đồng việc niêm yết tại New York với việc phát hành mô hình.

Matt Sheehan: Để củng cố lập luận: một điều mà chúng ta có cái nhìn sâu sắc — mặc dù tôi muốn các công ty làm rõ hơn — là họ không phải thực hiện đầy đủ các bài kiểm tra cho mỗi lần phát hành mô hình lặp lại. Họ không thực hiện đăng ký mới cho mỗi lần phát hành. Nếu bạn vào hệ thống nộp hồ sơ mô hình và tra cứu DeepSeek hoặc Ali, số lượng mô hình đã đăng ký ít hơn nhiều so với tổng số họ đang lưu trữ trên GitHub hoặc Hugging Face.

Jordan Schneider: Tôi nghĩ chúng ta đang hơi lạc đề. Chúng ta đã vượt qua ngưỡng từ việc các nhà quản lý chỉ để mắt đến mọi thứ sang việc các nhà quản lý hiểu rằng có những hậu quả cấp quốc gia nếu họ làm sai — không phải vài người tự làm hại mình, mà là các hệ thống bệnh viện ngừng hoạt động, các tổ chức tài chính bị rung chuyển đến tận gốc rễ. Chúng ta đã thấy Bessent hoảng loạn và gọi cho những người đứng đầu các ngân hàng nói rằng, các anh thực sự phải chú ý đến điều này.

Cả hai bạn dường như đều giữ một cơ sở lập luận về hiện trạng. Nhưng cũng đã có một cơ sở lập luận về hiện trạng ở Mỹ, và nó đã được chứng minh là sai lầm hoàn toàn về cách chính phủ Mỹ sẽ liên quan đến các mô hình này. Hãy sống trong thế giới mà chính phủ Trung Quốc quyết định rằng họ thực sự cần thay đổi cách tiếp cận của mình, thay vì chỉ thêm vài câu hỏi về an ninh mạng vào biểu mẫu đăng ký. Chúng ta đã tranh luận về điều này trong một thời gian dài — liệu Trung Quốc có bị "nghiện" AGI (Trí tuệ nhân tạo tổng quát) không? Bộ Chính trị có bị "nghiện" AGI không? Họ không bị. Mọi người không thể bị, cho đến khi họ bị — cho đến khi nó nhìn thẳng vào mặt bạn về việc những thứ này mạnh mẽ và có tác động lớn như thế nào.

Matt Sheehan: Đúng vậy — và để rõ ràng, kịch bản Glasswing sẽ không phải là cơ sở lập luận chính. Việc chỉ dành cho chính phủ trước, sau đó là SOE, sau đó là các công ty lớn, rồi mới phát hành rộng rãi sẽ rất khác so với hiện trạng hiện tại. Nó sẽ đại diện cho một sự thay đổi đáng kể.

Kevin Xu: Hiện trạng cũng khác nhau giữa Hoa Kỳ và Trung Quốc về mức độ quy định AI hiện có — các cơ sở lập luận của chúng ta không bắt đầu từ cùng một điểm. Một điều cần ghi nhớ về cách Glasswing thực sự ra đời, và tại sao tôi nghĩ một sự lặp lại rất có thể sẽ không xảy ra ở Trung Quốc: Glasswing được khởi xướng bởi một công ty tư nhân. Nó không được khởi xướng bởi một cơ quan chính phủ nói với một công ty AI đã tạo ra một mô hình thực sự mạnh mẽ rằng, "này, có lẽ chúng ta nên có một quy trình phát hành tiền kiểm duyệt đóng, báo trước cho các ngân hàng và cơ sở hạ tầng trọng yếu, sau đó mới phát hành ra công chúng". Anthropic đã chọn các thành viên của Glasswing — không phải chính phủ Hoa Kỳ. Đó là lý do tại sao chính phủ Mỹ đã phải loay hoay để phản ứng. Quan điểm của chúng ta là không quản lý quá mức và, thành thật mà nói, cam kết không có chế độ cấp phép cho các mô hình AI — và bây giờ chúng ta có một chế độ không chính thức kỳ lạ. Chúng ta đã loay hoay chính xác vì một công ty tư nhân nằm ngoài sự kiểm soát của chính phủ đã khởi xướng nó.

Nếu một tình huống tiền phát hành tương tự xảy ra ở Trung Quốc, nó chắc chắn sẽ được khởi xướng bởi một cơ quan chính phủ, và danh sách truy cập sẽ được cơ quan đó phê duyệt trước khi bất cứ điều gì khác xảy ra. Đó, theo bản chất, là một phản ứng rất khác so với cách Glasswing đã thể hiện.

Jordan Schneider: Vậy ai được vào và ai bị loại? Dự án Glasswing của Trung Quốc — ai có được nó trước, ai có được nó sau? Những công ty nào đang ở trong tình trạng bấp bênh?