Quy định về AI đồng hành tại Trung Quốc: Bắc Kinh thực sự đang nhắm đến điều gì?

Một người bạn đồng hành AI nghe có vẻ phản địa đàng, nhưng nó đã trở thành một chủ đề phổ biến trong cuộc thảo luận rộng lớn hơn về những hiểm họa của AI tạo sinh. Thuật ngữ này về cơ bản đề cập đến một tác nhân hội thoại được xây dựng để duy trì mối quan hệ cá nhân, liên tục với người dùng, với bộ nhớ và tính cách ổn định giúp nó duy trì sự nhất quán từ phiên này sang phiên khác.

Sự gắn kết về mặt cảm xúc thường nảy sinh từ thiết kế đó, và đây ngày càng trở thành điểm bán hàng chính. Phần lớn việc sử dụng chỉ là nhập vai thông thường hoặc đơn giản là muốn có một thứ gì đó ghi nhớ về bạn, và ở ranh giới ngoài, danh mục này dần chuyển sang các trợ lý thông thường. Nhưng khi ngày càng có nhiều người ở Trung Quốc coi những bot này như một dạng bạn đồng hành về cảm xúc, Bắc Kinh hiện đã quyết định rằng hoạt động này cần phải có các quy định.

Các quy định về bạn đồng hành AI của Trung Quốc có hiệu lực từ ngày 15 tháng 7, và trong những ngày trước thời hạn đó, hai ứng dụng AI tiêu dùng được sử dụng nhiều nhất của quốc gia này đã âm thầm tắt các tính năng cốt lõi của chúng. Doubao của ByteDance thông báo với người dùng rằng chức năng tác nhân của họ sẽ ngừng hoạt động vào ngày 15 tháng 7, với lý do "điều chỉnh chức năng sản phẩm", trong khi Qwen của Alibaba cho biết các tác nhân giống con người và do người dùng tạo ra của họ sẽ ngừng hoạt động vào ngày 10 tháng 7 và các dịch vụ tác nhân rộng hơn sẽ ngừng sau đó năm ngày.

Đọc nhanh qua, có vẻ như Trung Quốc đang tắt các tác nhân AI. Thực tế không phải vậy. Các quy định vạch ra ranh giới giữa tác nhân thực hiện công việc cho bạn và tác nhân đồng hành cùng bạn, và Bắc Kinh chỉ nhắm vào loại thứ hai.

Quy định này là Biện pháp tạm thời về quản lý dịch vụ tương tác nhân hóa AI, được đồng ban hành vào ngày 10 tháng 4 năm 2026 bởi Cục Quản lý Không gian mạng Trung Quốc và bốn cơ quan đối tác: Ủy ban Cải cách và Phát triển Quốc gia, Bộ Công nghiệp và Công nghệ Thông tin, Bộ Công an và Tổng cục Quản lý Thị trường Nhà nước.

Quy định này bao gồm các dịch vụ mô phỏng đặc điểm tính cách, kiểu tư duy và phong cách giao tiếp của con người để cung cấp sự tương tác cảm xúc bền vững. Các bot dịch vụ khách hàng, hỏi đáp kiến thức, trợ lý tại nơi làm việc, và các công cụ giáo dục và nghiên cứu được loại trừ, với điều kiện chúng tránh sự gắn kết cảm xúc bền vững. Đây là khung pháp lý quốc gia chuyên biệt đầu tiên thuộc loại này, và nó được hình thành sau một bản dự thảo lấy ý kiến công chúng vào cuối năm ngoái.

Một vấn đề về thiết kế, không phải lệnh cấm

Doubao và Qwen không vi phạm lệnh cấm. Họ vấp phải một xung đột về thiết kế. Các biện pháp yêu cầu các dịch vụ đồng hành phải chạy hệ thống chống nghiện, đưa ra các thông báo sử dụng bắt buộc và cung cấp cơ chế thoát nhanh, cùng với việc phát hiện thời gian thực về sự phụ thuộc không lành mạnh.

Những yêu cầu đó gây khó khăn cho các tác nhân được xây dựng để ghi nhớ người dùng, duy trì sự nhất quán giữa các phiên và giữ mối quan hệ liên tục, và thay vì cải tiến tính năng này, ByteDance đã chọn đóng cửa nó. Alibaba dường như cũng đưa ra quyết định tương tự. ByteDance hiện đang hướng người dùng Doubao đến Maoxiang, một ứng dụng riêng biệt nơi họ có thể tạo lại các tác nhân; Alibaba chưa công bố lộ trình di chuyển tương đương cho Qwen. Yuanbao của Tencent đã gỡ bỏ một tính năng tương tự vào tháng 6.

Chi phí đã đổ dồn lên người dùng. Nhiều người công khai bày tỏ sự tiếc nuối về việc đóng cửa trên Weibo, với một bài đăng mô tả các tác nhân này là nguồn hỗ trợ tinh thần lâu dài và than phiền về việc thiếu cách dễ dàng để xuất lịch sử trò chuyện. Doubao đang cho phép mọi người xem cấu hình và cuộc trò chuyện của họ ở chế độ chỉ đọc cho đến ngày 15 tháng 10 năm nay, trước khi dữ liệu được xử lý theo chính sách quyền riêng tư và không thể khôi phục; người dùng Qwen không được hưởng thời gian ân hạn tương đương, với dữ liệu tác nhân đã được lên lịch xóa vĩnh viễn.

Những gì các quy định về bạn đồng hành AI của Trung Quốc đặt ra

Nội dung thực chất được cân nhắc kỹ lưỡng hơn so với một lệnh cấm đoán thô bạo. Các nhà cung cấp bị cấm cung cấp dịch vụ bạn đồng hành ảo hoặc thành viên gia đình ảo cho trẻ vị thành niên, và phải có sự đồng ý của người giám hộ trước khi phục vụ người dùng dưới 14 tuổi. Họ được yêu cầu xây dựng "chế độ trẻ vị thành niên" chuyên biệt với giới hạn thời gian sử dụng, nhắc nhở quay lại tương tác với thế giới thực và tăng cường kiểm soát của phụ huynh.

Họ cũng phải phát hiện những người dùng đang trong tình trạng đau khổ cấp tính và can thiệp khi ai đó có dấu hiệu tự hại, hành vi tự sát hoặc tổn thất tài chính nghiêm trọng, báo cáo cho người giám hộ được chỉ định hoặc liên hệ khẩn cấp. Việc tạo ra sự phụ thuộc hoặc nghiện cảm xúc và sử dụng thao túng cảm xúc để dẫn đến các quyết định vô lý đều bị cấm rõ ràng.

Bộ máy tuân thủ rất nặng nề. Các dịch vụ khởi chạy các chức năng nhân hóa hoặc vượt ngưỡng một triệu người dùng đăng ký hoặc 100.000 người dùng hoạt động hàng tháng phải thực hiện đánh giá bảo mật bao gồm tám lĩnh vực, từ xử lý dữ liệu đào tạo đến bảo vệ trẻ vị thành niên, và nộp báo cáo cho các cơ quan quản lý cấp tỉnh. Các cửa hàng ứng dụng phải xác minh trạng thái đó và gỡ bỏ các sản phẩm không tuân thủ.

Trên giấy tờ, đây là bộ bảo vệ người dùng đầy đủ hơn so với những gì EU, Ủy ban Thương mại Liên bang Hoa Kỳ hoặc SB 243 của California đã áp dụng cho đến nay.

Những gì các quy định còn bỏ ngỏ

Những gì các biện pháp không giải quyết cũng quan trọng không kém. Chúng không ấn định ngưỡng kỹ thuật cho những gì được coi là tương tác cảm xúc, và vùng xám đó chính là lý do tại sao các nền tảng đã gỡ bỏ toàn bộ tính năng thay vì mạo hiểm rơi vào phía sai của quy định. Chúng lồng ghép các nghĩa vụ an toàn thực sự với các điều khoản kiểm soát nội dung và an ninh quốc gia phục vụ nhà nước thay vì người dùng, một gói quy định mà không cơ quan quản lý nào khác sẽ áp dụng toàn bộ.

Chúng cũng để ngỏ cách phân chia trách nhiệm giữa nhà điều hành nền tảng và nhà cung cấp mô hình thượng nguồn khi vi phạm xuất phát từ đầu ra của mô hình, và chúng không cho người dùng quyền mang dữ liệu của họ đi. Bối cảnh thực thi làm vấn đề trở nên gay gắt hơn. Cơ quan quản lý internet của Thượng Hải cho biết vào ngày 26 tháng 6 rằng họ đã gỡ bỏ hơn 14.000 tác nhân AI không tuân thủ, với lý do mạo danh các thực thể chính thức, nhập vai thô tục và thu thập dữ liệu cá nhân trái phép.

Liệu đây có phải là hướng đi đúng đắn hay không phụ thuộc vào việc bạn đọc nửa nào của cuốn quy tắc. Nửa về an toàn giải quyết các tác hại đã được ghi nhận và phần lớn chưa được kiểm soát ở nơi khác, từ thanh thiếu niên hình thành sự gắn kết với chatbot đến các ứng dụng đồng hành thu thập dữ liệu riêng tư. Cách giải thích chính thức của Trung Quốc chỉ ra nước ngoài để làm bằng chứng, trích dẫn các vụ kiện Character.AI về tác hại tâm lý đối với thanh thiếu niên, các cuộc điều tra của FTC về các dịch vụ đồng hành và hành động của châu Âu đối với Replika.

Nửa về kiểm soát trao cho Bắc Kinh quyền kiểm soát những gì các hệ thống này có thể nói, được bao bọc trong cùng ngôn ngữ bảo vệ người dùng. Cả hai đều là thực tế, và các chính phủ đang theo dõi thử nghiệm này sẽ phải quyết định những phần nào họ sẵn sàng vay mượn. Pan Helin, một thành viên ủy ban chuyên gia của MIIT, đã trình bày rõ ràng quan điểm chính thức với South China Morning Post, nói rằng "các tác nhân hiện tại vẫn chưa trưởng thành" và định hình chính sách xung quanh sự an toàn và tiêu chuẩn hóa.

Các công ty, hiện tại, đã chọn con đường an toàn nhất có thể, đó là tắt các thành phần và tìm hiểu xem một phiên bản tuân thủ sẽ trông như thế nào sau đó.

Xem thêm: Meta sửa đổi chính sách chatbot AI trong bối cảnh lo ngại về an toàn trẻ em

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới khác tại đây.