404 Media: Meta dùng nhân viên tổng đài thay vì AI để thực hiện cuộc gọi cho người dùng

Tuần trước, các giám đốc điều hành của Meta đã thông báo rằng AI agent rất được kỳ vọng của họ, Muse, đã có một tính năng mới: Nó có thể thay bạn gọi điện cho các doanh nghiệp để thực hiện những việc như đặt bàn nhà hàng hoặc hẹn lịch cắt tóc. Tuy nhiên, theo thông tin mà 404 Media nắm được, thực tế là Meta đang thử nghiệm việc để con người tại các trung tâm cuộc gọi thực hiện những cuộc gọi này.

“Chúng tôi vừa mở rộng bản beta của @muse cho các cuộc gọi đi đến các doanh nghiệp tại Mỹ,” Ryan Fox, kỹ sư chính của Muse, đã đăng trên X vào ngày 16 tháng 9. Alexandr Wang, giám đốc AI của Meta, cũng đăng: “chúng tôi đang mở rộng bản beta gọi điện cho muse!”

chúng tôi đang mở rộng bản beta ☎️ 📞 cho muse! https://t.co/ZJnXM2vb4U

Tuy nhiên, nội bộ công ty đã thông báo các tính năng này cho nhân viên và cho biết họ đã “thêm một lớp nhân sự là con người để hoàn tất các cuộc gọi,” và rằng “các cuộc gọi từ nhân viên con người của Muse [sic] đã sẵn sàng để công ty dùng thử nội bộ (dogfooding),” hay còn gọi là thử nghiệm.

“Muse không chỉ quay số. Nó gọi cho doanh nghiệp thay bạn, xử lý cuộc hội thoại, hoàn thành yêu cầu của bạn và báo cáo lại bằng bản ghi chép cùng bản tóm tắt,” bài đăng trên bảng tin nội bộ dành cho nhân viên mà 404 Media có được cho biết. “Nó cũng không còn hoạt động đơn độc nữa. Muse hiện có thể chuyển các yêu cầu cho một nhân viên con người đã qua đào tạo, người này sẽ thực hiện cuộc gọi và giải quyết công việc.”

“Đây vẫn là một sản phẩm bảo mật, chưa ra mắt,” bài đăng nói thêm. “Vui lòng không chia sẻ sản phẩm này, hoặc bất kỳ nội dung nào do nó tạo ra, với bất kỳ ai bên ngoài công ty.”

Một lần nữa, một tính năng cốt lõi của một công nghệ AI lớn thực chất lại là con người đang làm việc trong một trung tâm cuộc gọi, thực hiện công việc mà công ty tuyên bố là do AI làm. Hiện chưa rõ tần suất hoặc thời điểm một cuộc gọi được chuyển hướng đến cái gọi là “nhân viên con người”, và khi nào một cuộc gọi được thực hiện hoàn toàn bởi AI.

💡

Bạn có đang làm việc cho Meta hoặc biết thêm thông tin gì về Muse không? Tôi rất muốn nghe từ bạn. Hãy sử dụng thiết bị không phục vụ công việc để nhắn tin bảo mật cho tôi qua Signal tại jason.404. Ngoài ra, hãy gửi email cho tôi tại [email protected].

Việc con người tham gia vào các cuộc gọi đã làm dấy lên những câu hỏi trong nội bộ nhân viên, những người lo ngại về cả ý nghĩa quyền riêng tư khi chia sẻ yêu cầu cuộc gọi của người dùng với những người khác, cũng như nhận thức rằng trợ lý AI của họ chưa đủ tiên tiến để tự thực hiện các cuộc gọi.

“Không chắc tôi có bỏ lỡ điều gì không nhưng tại sao đây lại được coi là một ‘tính năng’?” một nhân viên viết trên bảng tin nội bộ của Meta dành cho nhân viên. “Điều này có tiềm năng gây ra rất nhiều PR tiêu cực. Nó có thể khiến chúng ta bị đưa tin theo kiểu ‘AI của họ không đủ tốt nên họ vẫn cần con người’ cho đợt ra mắt này.”

Việc Meta ít nhất đôi khi để con người đọc các cuộc trò chuyện của người dùng và thực hiện cuộc gọi thay cho họ là một phần của truyền thống lâu đời: các công ty ra mắt một sản phẩm AI, khẳng định đó là AI, chỉ để sau đó người ta phát hiện ra rằng con người đang thực hiện một phần hoặc toàn bộ công việc. Và đây là ví dụ mới nhất về một gã khổng lồ công nghệ chuyển thông tin có khả năng rất nhạy cảm cho con người; thật dễ để tưởng tượng ai đó yêu cầu Muse đặt một cuộc hẹn bác sĩ nhạy cảm, chẳng hạn, và người dùng không hề biết rằng một con người có thể thực hiện cuộc gọi đó.

Trong các thông tin liên lạc nội bộ mà 404 Media có được, Meta gợi ý với nhân viên rằng thông tin nhạy cảm mà người dùng chia sẻ với AI — và sau đó được chuyển cho các nhà thầu là con người — vẫn an toàn vì các nhà thầu đã trải qua “rất nhiều khóa đào tạo để đảm bảo tất cả dữ liệu của bạn được an toàn và bảo mật.” Một nhân viên đã bình luận rằng việc đào tạo “không phải là một cơ chế [bảo mật].”

“Điều này chắc chắn sẽ tạo ra một làn sóng phản đối dữ dội nếu chúng ta công khai ra mắt tính năng này ở chế độ mặc định. Nó sẽ phá hủy mọi thiện chí và sự ủng hộ tự nhiên mà chúng ta đang nhận được từ những người dùng sớm,” họ viết. “Hãy suy nghĩ về việc các tiêu đề báo chí sẽ gào thét ‘Meta sử dụng con người đằng sau hậu trường để thực hiện cuộc gọi’ hoặc ‘Muse AI thực chất là các nhà thầu độc lập’ và dẫn đến hàng loạt tin tức tiêu cực về quyền riêng tư và bảo mật trong cách xử lý dữ liệu của chúng ta […] làm ơn, LÀM ƠN đừng phát hành nó như hiện tại và ít nhất hãy biến nó thành một tùy chọn của người dùng nếu chúng ta bắt buộc phải ra mắt. Làm ơn.”

Những nhân viên khác đã thử nghiệm hệ thống cho biết đó là một “ý tưởng rất tồi”, và họ không hề biết rằng một con người đã thực hiện cuộc gọi thay cho họ cho đến khi cuộc gọi kết thúc: Người thử nghiệm “không được thông báo rằng người gọi là con người và chỉ được biết sau đó,” một nhân viên viết. “Vì vậy, họ lo ngại về thông tin mà họ đã chia sẻ với giả định rằng đó là AI bảo mật đang thực hiện cuộc gọi. Ngay cả với chỉ dẫn rõ ràng về việc con người đang gọi, tôi có thể nghĩ ra nhiều tình huống mà tôi sẽ không thoải mái với điều này và tôi không chắc người dùng của chúng ta sẽ phản ứng thế nào.”

Nhiều nhân viên Meta và người dùng thông thường đã đăng bài về khả năng thực hiện cuộc gọi của Muse và trải nghiệm của họ với nó. Ravid Shwartz Ziv, người làm nghiên cứu AI tại Meta, đã đăng trên X rằng “tuần này, Muse đã gọi cho dịch vụ khách hàng thay tôi. Nó đã điều hướng qua hệ thống tổng đài tự động, chờ máy, nói chuyện với nhân viên con người và giải quyết vấn đề (hoạt động rất tốt!). Điều điên rồ đối với tôi (ngoài việc nó hoạt động hiệu quả) là nhân viên kia không hề ngạc nhiên. Việc nói chuyện với một con bot hoàn toàn tự nhiên đối với họ.” Những người khác đã đăng rằng chức năng gọi điện không hoạt động, hoặc người ở đầu dây bên kia đã cúp máy với nhân viên (một số người nói rằng Muse đã làm đúng những gì nó phải làm).

“Thử nghiệm nội bộ, hay còn gọi là dogfooding, là cốt lõi của quy trình phát triển sản phẩm. Mặc dù phản hồi từ nhân viên là cực kỳ tích cực, nhưng mục đích chính là để thu thập phản hồi để chúng ta có thể triển khai các biện pháp bảo vệ an toàn, quyền riêng tư và cải thiện các tính năng trước khi phát hành công khai,” một phát ngôn viên của Meta nói với 404 Media. “Chúng tôi đang làm việc với các thương gia để tiếp tục cải thiện tính năng gọi điện tiềm năng này, và sẽ chỉ tung ra khi nó đã sẵn sàng cùng với các thông báo phù hợp.”

Về tác giả

Jason là đồng sáng lập của 404 Media. Trước đây, anh là tổng biên tập của Motherboard. Anh yêu thích Đạo luật Tự do Thông tin và lướt sóng.