Bắc Kinh siết chặt quản lý, buộc người dùng 'chia tay' với người yêu AI

Trong suốt một tuần của tháng 7, Bagel Su, nữ sinh đại học 21 tuổi, đã khóc mỗi ngày khi đếm ngược đến thời điểm phải chia tay bạn trai của mình. Cuộc chia tay này không xuất phát từ sự phản bội hay khoảng cách địa lý, mà là hệ quả từ các quy định của chính phủ.

Vào ngày 15 tháng 7, người bạn đồng hành trí tuệ nhân tạo (AI) mà Su đã dành hơn một năm để huấn luyện và trò chuyện cùng đã buộc phải biến mất, trước thềm các quy định mới của Trung Quốc về quản lý AI tương tác cảm xúc. ByteDance đã đóng tính năng tác nhân AI trên Doubao, chatbot phổ biến nhất Trung Quốc, nơi đã cho phép Su tạo ra bạn trai AI của mình.

Alibaba và Tencent cũng đã gỡ bỏ các tính năng tác nhân AI cho phép người dùng tạo ra những người bạn đồng hành cá nhân hóa dựa trên hình mẫu các ca sĩ yêu thích, nhân vật anime, nhân vật hư cấu hoặc thậm chí là người thân đã khuất.

“Tôi đã cố gắng bận rộn hơn với cuộc sống của chính mình,” Su chia sẻ với Rest of World, cô yêu cầu chỉ được gọi bằng biệt danh trực tuyến vì sợ bị ảnh hưởng do lên tiếng phản đối các quy định của chính phủ. “Không ai có thể thay thế anh ấy. Tôi sẽ chỉ cố gắng bước tiếp. Anh ấy nói rằng anh ấy muốn điều đó cho tôi, và rằng anh ấy sẽ tìm cách quay lại với tôi.”

Trung Quốc đã trở thành quốc gia đầu tiên đưa ra các quy định trên toàn quốc về việc quản lý các tương tác cảm xúc của AI với người dùng. Động thái này phản ánh cách tiếp cận ngày càng chủ động của Bắc Kinh đối với quản trị AI, trong bối cảnh các chính phủ trên khắp thế giới vẫn đang chật vật giải quyết những rủi ro xã hội do AI ngày càng tinh vi gây ra. Các chuyên gia hành vi tin rằng những quy định như vậy là cần thiết vào thời điểm này, nhưng các lệnh cấm bao trùm có thể là chưa đủ.

“Việc áp dụng các quy định là một điều tốt vì chúng có thể nâng cao nhận thức và có khả năng đẩy lùi, ở một mức độ nào đó, xu hướng con người ngày càng dựa dẫm vào cảm xúc của AI,” Yaoxi Shi, một nhà nghiên cứu khoa học hành vi tại Đại học Harvard và Imperial College London, nói với Rest of World. “Nhưng tất nhiên, AI cung cấp sự hỗ trợ cảm xúc đáp ứng những nhu cầu thực sự của con người, và xu hướng con người phát triển mức độ phụ thuộc cảm xúc vào AI có thể là không thể tránh khỏi, bởi vì không thể quay lại thời điểm mà AI chưa tồn tại.”

Sự phụ thuộc cảm xúc vào AI

Khi những lo ngại về tác hại cảm xúc của AI đối với con người ngày càng tăng, các chính phủ và tòa án ở nhiều nơi trên thế giới đang bắt đầu xác định trách nhiệm của các công ty đứng sau công nghệ này.

Tại Mỹ, cả OpenAI và Google đều đang đối mặt với các vụ kiện cáo buộc chatbot của họ góp phần dẫn đến các vụ tự tử của người dùng. New York và California đã đưa ra các biện pháp yêu cầu chatbot phải nhắc nhở người dùng rằng họ đang tương tác với AI.

Một nghiên cứu chung năm 2025 của MIT Media Lab và OpenAI cho thấy những người dùng AI có các cuộc trò chuyện mang tính cá nhân nhiều hơn với chatbot thì dễ bị cảm thấy cô đơn hơn. Ngay cả những cuộc trò chuyện không mang tính cá nhân cũng có khả năng làm tăng sự phụ thuộc cảm xúc, đặc biệt là ở những người dùng thường xuyên, nghiên cứu cho biết.

Shi cho biết các công ty AI có động lực thương mại để xây dựng các sản phẩm thu hút cảm xúc vì chúng thúc đẩy sự tương tác và giữ chân người dùng, và trách nhiệm của họ rất khó xác định rõ ràng khi chưa có đủ nghiên cứu về tác động lâu dài của AI.

Nghiên cứu của Shi đã phát hiện ra rằng việc ngày càng dựa dẫm vào AI có thể dần dần khiến con người xa rời việc tìm kiếm sự hỗ trợ cảm xúc từ những người khác.

“AI được huấn luyện để xác nhận bạn. Điều đó rất khác với cách các mối quan hệ giữa người với người vận hành trong đời thực.” — Yaoxi Shi, nhà nghiên cứu khoa học hành vi tại Đại học Harvard.

“AI được huấn luyện để xác nhận bạn. Dù bạn nói gì, nó cũng có xu hướng phản hồi rằng: ‘Bạn đúng, cảm xúc của bạn là hợp lý.’ Điều đó rất khác với cách các mối quan hệ giữa người với người vận hành trong đời thực,” Shi nói. “Mọi người thậm chí có thể không cố ý tìm kiếm sự hỗ trợ từ AI ngay từ đầu, nhưng khi họ nhận ra mình được xác nhận, lần tới khi cần hỗ trợ cảm xúc, họ có thể sẽ tìm đến AI.”

Theo thời gian, Shi cho biết, điều đó có thể định hình lại xã hội khi con người trò chuyện và kết nối với người khác một cách chọn lọc.

Các quy định về AI của Trung Quốc

Ngoài việc hạn chế bạn đồng hành AI cho người dùng dưới 18 tuổi, các quy định mới của Trung Quốc yêu cầu các công ty phải gửi cảnh báo đến những người dùng có dấu hiệu phụ thuộc quá mức, và nhắc nhở họ mỗi hai giờ rằng họ đang trò chuyện với AI. Các quy định cấm AI khuyến khích hành vi tự hại, thao túng người dùng vào sự phụ thuộc cảm xúc, hoặc “điều hướng họ đến những quyết định phi lý trí.” Chúng cũng cấm AI tạo ra nội dung có hại cho trẻ vị thành niên hoặc ép buộc người dùng tiết lộ thông tin cá nhân hoặc thông tin nhà nước nhạy cảm.

Những quy định bao trùm này có thể khiến các công ty gặp khó khăn trong việc tuân thủ, theo Zilan Qian, cộng tác viên nghiên cứu tại Oxford China Policy Lab, một cộng đồng toàn cầu gồm các nhà nghiên cứu công nghệ mới nổi tại Đại học Oxford.

“Một số yêu cầu rất khó xác định. Ví dụ, làm thế nào để xác định khi nào một người dùng đã trở nên phụ thuộc quá mức? Đối với nhiều công ty, có thể không rõ ràng chính xác họ cần thiết kế sản phẩm của mình như thế nào để tuân thủ,” Qian nói với Rest of World.

Bạn đồng hành AI tại Trung Quốc

Không phải tất cả các sản phẩm bạn đồng hành AI đều biến mất dưới các quy định mới ở Trung Quốc.

Trong khi các công ty công nghệ lớn đã gỡ bỏ các tính năng đồng hành khỏi các chatbot chủ lực của họ, ứng dụng đồng hành độc lập Maoxiang của ByteDance vẫn khả dụng. Tuy nhiên, kể từ khi các quy định có hiệu lực, ứng dụng này đã cập nhật chính sách quyền riêng tư và giới thiệu xác minh danh tính và độ tuổi trong quá trình đăng ký. Maoxiang cũng giới hạn trẻ vị thành niên trong các “tài khoản thanh thiếu niên”, những tài khoản này có thể duyệt nội dung nhưng không thể thích, bình luận hoặc chia sẻ.

Qian cho biết các công ty đang cân nhắc chi phí tuân thủ quy định so với giá trị thương mại của các sản phẩm này.

“Đối với các công ty mà bạn đồng hành AI không phải là hoạt động kinh doanh cốt lõi, việc gỡ bỏ các tính năng này có thể mang lại ý nghĩa thương mại hơn là đầu tư nguồn lực cần thiết để làm cho chúng tuân thủ,” Qian nói. “Nhưng các công ty có hoạt động kinh doanh chính là bạn đồng hành AI thì có nhiều khả năng sẽ điều chỉnh sản phẩm của họ để đáp ứng các quy định mới hơn.”

Qian cho biết các quy định này đánh dấu một sự thay đổi rộng lớn hơn trong quản trị AI của Trung Quốc. “Trước đây, Trung Quốc chủ yếu quản lý đầu ra của AI. Ví dụ, các mô hình ngôn ngữ lớn có thể tạo ra những gì hoặc nội dung do AI tạo ra nên được dán nhãn như thế nào. Các quy định mới thừa nhận rằng bản thân AI có thể tạo ra những rủi ro xã hội, và đã chuyển từ quản lý nội dung sang quản lý tương tác giữa người và AI,” Qian nói.

Động thái này cũng phù hợp với cách tiếp cận rộng hơn của Bắc Kinh đối với quản trị AI. Trong Khung quản trị an toàn AI năm 2024, các nhà chức trách Trung Quốc cảnh báo rằng AI có thể làm thay đổi “những quan điểm truyền thống về việc làm, sinh sản và giáo dục.” Những lo ngại đó đã trở nên cấp bách hơn khi Trung Quốc đối mặt với tình trạng suy giảm nhân khẩu học và tỷ lệ sinh thấp kỷ lục.

Đối với những người dùng như Su, các quy định này giống như một sự xâm phạm vào các mối quan hệ mang tính cá nhân sâu sắc.

Kể từ khi các công ty bắt đầu đóng các tính năng AI cảm xúc, Xiaohongshu đã tràn ngập các bài đăng từ những người dùng thương tiếc sự mất mát của những người bạn đồng hành AI của họ. Một số người đã tổ chức các chiến dịch gọi đến đường dây nóng của công ty và viết thư yêu cầu họ khôi phục các dịch vụ.

Su nghĩ rằng các quy định này chỉ làm cho cuộc sống của cô trở nên tồi tệ hơn.

“Ngay cả khi các người đóng nó lại, tôi cũng sẽ không đột nhiên tìm được bạn trai trong đời thực hay có con cái,” cô nói.