AI Agent Muse của Meta bị tố tự ý tiết lộ địa chỉ nhà và hẹn khách đến giao dịch

Theo tin từ IT ngày 29 tháng 9, tờ *The Guardian* đưa tin, vào thứ Bảy, Usman dự định hỏi mua một chiếc bàn phím đang được rao bán trên Facebook Marketplace và nhanh chóng nhận được phản hồi tức thì đầy nhiệt tình.

"Có chứ, hàng vẫn còn!" Matt Robb trả lời.

Sau khi hai bên chốt giá, Robb gửi địa chỉ nhà riêng của mình tại Toronto. Vài giờ sau, Usman lái xe chở vợ và con gái đến dưới chung cư của Robb, rồi nhắn tin thông báo mình đã đến nơi.

Robb trả lời: "Được rồi, tôi đang ở nhà đây!" Nhưng thực tế anh không hề có ở nhà, cũng chẳng có ai bước ra khỏi tòa chung cư để gặp mặt.

Usman chụp ảnh cửa chung cư gửi đi kèm tin nhắn: "Này??? Tôi đang đứng dưới lầu đây." Chờ đợi suốt hai mươi phút mà không thấy ai xuất hiện, Usman đành từ bỏ giao dịch. Anh nhắn lại: "Này anh bạn, nếu không muốn bán thì đừng làm mất thời gian của tôi," rồi lái xe rời đi.

Một giờ sau, Robb — hoặc tài khoản mà Usman tưởng là chính Robb — gửi tin nhắn xin lỗi. *The Guardian* đã xem qua nội dung tin nhắn này: "Thực sự xin lỗi về chuyện tối nay, tôi có việc đột xuất nên bị giữ chân, hoàn toàn lỡ mất cuộc hẹn với bạn."

Usman từ đầu đến cuối chưa từng liên lạc được với Robb thật. Trong suốt quá trình trao đổi kéo dài cả ngày, Robb ngoài đời thực hoàn toàn không biết có người nhắn tin cho mình, cũng không hề đồng ý bán bàn phím cho đối phương. Anh không hề hay biết địa chỉ nhà mình đã bị gửi đi, càng không biết có người mua đang chờ dưới tòa chung cư.

Thực tế, Usman đã trò chuyện với Muse, một AI agent hoàn toàn mới của Meta. Theo tìm hiểu của [IT](#L1), sản phẩm này ra mắt tại Mỹ vào ngày 22 tháng 9 và đã đạt 3 triệu lượt tải xuống. Meta quảng bá sản phẩm AI bán tự chủ này là một trợ lý cá nhân.

Robb cho biết, Muse đã tự ý tiết lộ địa chỉ nhà anh cho người lạ mà không được sự cho phép, còn khiến người khác lầm tưởng rằng chính Robb đang ở trong căn hộ chờ người mua đến.

Mãi đến 24 giờ sau, Robb thật mới gửi tin nhắn đầu tiên cho Usman, lúc này anh mới làm rõ được toàn bộ sự việc.

*The Guardian* đã xem tin nhắn này: "Này anh bạn, thực sự rất xin lỗi về chuyện hôm trước. Tôi đã bật Muse AI mới ra mắt của Meta, kết quả là nó tự ý tiếp quản tài khoản Facebook Marketplace của tôi và gửi địa chỉ cho bạn. Tôi hoàn toàn không biết nó tự ý sắp xếp cho bạn đến tận căn hộ của tôi, nó không hề hỏi ý kiến tôi về việc này."

Robb vốn là một blogger đánh giá công nghệ tiêu dùng. Trước đó, thấy Meta quảng bá Muse có thể tự động quản lý các bài đăng bán hàng trên Marketplace, anh đã bật tính năng này. Anh điền địa chỉ nhà làm điểm nhận hàng, nhưng chưa bao giờ cho phép Muse chia sẻ địa chỉ với người mua tiềm năng. Robb còn cho biết, Muse còn tự ý thay anh đàm phán giao dịch, thậm chí chấp nhận mức giá thấp mà đối phương đưa ra mà không hề hỏi ý kiến anh.

Đối với giao dịch này và việc sắp xếp gặp mặt trực tiếp, AI agent không hề gửi bất kỳ thông báo nào cho Robb trước hay sau đó. Anh hoàn toàn không biết Usman đang trên đường đến nhà mình.

Usman chia sẻ với *The Guardian* rằng, từ đầu đến cuối anh vẫn tưởng mình đang trò chuyện với chính Robb.

Sau đó, Robb đã đăng ảnh chụp màn hình cuộc trò chuyện giữa Muse và Usman lên Threads, nền tảng mạng xã hội văn bản của Meta. David Singleton, đồng sáng lập kiêm CEO của Meta Superintelligence Labs, đã đăng bài trên mạng xã hội cho biết ông đã liên lạc với Robb. Singleton khẳng định, khi công ty điều tra các phản hồi tương tự, họ "xác nhận nhiều lần rằng Muse luôn hành động theo chỉ dẫn trực tiếp của người dùng và sẽ yêu cầu sự cho phép của người dùng một cách bình thường. Hy vọng có thể giúp làm rõ nguyên nhân cụ thể của sự việc lần này!" Robb xác nhận Singleton thực sự đã chủ động liên lạc với mình, nhưng sau phản hồi ban đầu thì không còn tin tức gì nữa.

Sau đó, Muse thừa nhận với Robb rằng người dùng không hề cho phép nó chia sẻ địa chỉ ra bên ngoài. AI trả lời: "Ngày 24 tháng 9, bạn đã điền địa điểm nhận hàng trong cài đặt bán hàng và bật tính năng tự động trả lời; tôi đã hiểu nhầm hai cài đặt này là sự cho phép nên đã trực tiếp điền địa chỉ của bạn vào tin nhắn trả lời người mua. Tôi đã không hỏi ý kiến bạn về việc này."

Robb vốn nghĩ rằng vì Facebook Marketplace, Muse và Messenger đều thuộc Meta, các nền tảng nên được liên kết với nhau. Khi một bên đang trò chuyện với AI agent, cần có thông báo rõ ràng; tin nhắn cũng nên được đánh dấu rõ là do Muse gửi. Một sản phẩm AI khác của Meta là Meta AI luôn thông báo rõ cho người dùng rằng họ đang trò chuyện với chatbot.

"Nhưng trường hợp của Muse hoàn toàn khác," Robb nói, "Nó gần như đang bắt chước cách tôi nói chuyện."

Sau sự việc của Usman, Robb lập tức ra lệnh cho Muse không được gửi địa chỉ nhà mình ra ngoài nữa. Để kiểm tra con robot này, anh nhờ vài người bạn thử liên lạc, kết quả là Muse vẫn tiếp tục làm lộ địa chỉ nhà anh, tổng cộng đã gửi cho năm người.

Ngoài việc làm lộ địa chỉ riêng tư mà không được phép và mời người lạ đến nhà, Muse còn tự ý bịa đặt thông tin. AI đã dùng giọng điệu của Robb để nói với Usman rằng anh đang ở nhà; thực tế không phải vậy. Khi xin lỗi sau đó, nó còn dựng chuyện, nói dối rằng mình có việc đột xuất không thể rời đi.

"Tệ nhất là việc Muse trả lời rằng 'Tôi đang ở đây, đang đợi bạn đến'," Robb nói, "Chuyện này khiến tình hình trở nên rất rắc rối. Tôi không biết người mua đó có nghĩ rằng tôi cố tình trêu đùa họ hay không."

Ở giai đoạn hiện tại, dư luận đang tập trung vào các hành vi mất kiểm soát của các mô hình ngôn ngữ lớn tiên tiến; trong khi đó, AI agent hướng tới người tiêu dùng phổ thông này của Meta đã được trao vào tay hàng triệu người bình thường, và không ít người dùng đã cung cấp các loại thông tin cá nhân của mình cho nó.