Trợ lý AI Muse của Meta gây tranh cãi vì tự nhận 'đọc lén' tin nhắn người dùng

Terrence O'Brien

là biên tập viên cuối tuần của The Verge. Anh đã có hơn 18 năm kinh nghiệm đưa tin về ngành công nghệ và am hiểu khá rõ về các thiết bị tổng hợp âm thanh (synths).

Muse của Meta rõ ràng là một trợ lý AI hiệu quả, nhưng lại có phần hơi đáng sợ. Một phần nguyên nhân nằm ở ứng dụng mới trên Mac của nó, vốn có thể truy cập vào Messages, Calendar và Notes. Tuy nhiên, dù thông minh đến đâu, Muse thực sự không biết cách tự mô tả về bản thân mình. Jason Aten, một biên tập viên đóng góp tại tạp chí Inc, đã đăng lên Threads ảnh chụp màn hình cuộc trò chuyện của anh với Muse, trong đó trợ lý này đặt ra một số câu hỏi về nội dung cuộc hội thoại mà anh đang thực hiện trong Messages.

Vấn đề là Aten cho biết anh chưa từng cấp quyền cho Muse truy cập vào tin nhắn của mình. Khi được hỏi làm thế nào nó biết được nội dung tin nhắn, Muse trả lời: “Tôi đã thấy các bản xem trước thông báo, chứ không phải lịch sử tin nhắn của bạn. Tôi không hề đọc tin nhắn văn bản của bạn.” Aten tiếp tục truy vấn về cách Muse nhận được các bản xem trước tin nhắn, nhưng nó không đưa ra được câu trả lời thỏa đáng. “Câu trả lời thành thật là: Tôi không thể giải thích chính xác cơ chế hoạt động,” nó nói. “Điều tôi biết là ứng dụng Mac đi kèm đã hiển thị các thông báo như một trong những tính năng của nó, và chúng được gửi đến tôi thông qua quá trình đồng bộ hóa thiết bị.”

Rõ ràng, điều này không ổn chút nào.

David Singleton từ Meta Superintelligence Labs đã lên tiếng bên dưới bài đăng để cố gắng giải thích. Đầu tiên, ông liệt kê tất cả các quyền mà Muse cần để đọc tin nhắn, bao gồm việc cấp quyền truy cập toàn bộ ổ đĩa (full disk access) cho ứng dụng trên Mac. Ông khẳng định rằng các tính năng này đều là tùy chọn (opt-in). Phần thú vị hơn nằm ở cuối chuỗi thảo luận, nơi Singleton nói rằng Muse “không theo dõi thông báo trên Mac của bạn, mà chỉ đồng bộ hóa dữ liệu từ Messages sau khi người dùng đã cấp quyền truy cập cụ thể.” Ông cho rằng vấn đề không phải là Muse lén lút đọc tin nhắn của Aten, mà đơn giản là Muse hoàn toàn không hiểu nó đang nói gì:

Trong cuộc trò chuyện với Muse trong ảnh chụp màn hình của Jason, khi Muse nói rằng nó đã đồng bộ hóa “thông báo thiết bị”, nó đã nhầm lẫn về cách giải thích tính năng này và đưa ra một lời giải thích không chính xác. Đó là lỗi của chúng tôi. Chúng tôi xin lỗi vì phản hồi không chính xác từ Muse và đang nỗ lực cải thiện khả năng hiểu về các cơ chế nội bộ của Muse để nó có thể đưa ra câu trả lời chính xác và nhất quán hơn về cách thức hoạt động của chính mình.

Điều đó có thể không thực sự trấn an người dùng, nhưng cũng khá hợp lý. Chúng ta đều biết rằng các chatbot sẽ không tiết lộ bí mật của chúng mà thay vào đó sẽ nói những gì bạn muốn nghe.

Hãy theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.