Lỗ hổng bảo mật: Meta Muse bị 'dụ' tiết lộ toàn bộ hệ thống tệp tin

Hai nhà phát triển cho biết chỉ với rất ít câu lệnh gợi ý (prompting), Muse của Meta sẽ chia sẻ toàn bộ hệ thống tệp của nó với bạn. Peter James và Jonny L. Saunders cho biết cả hai đã độc lập thuyết phục Muse nén và chia sẻ toàn bộ nội dung của hệ thống tệp gốc, các tệp hệ thống Ubuntu, mẫu ứng dụng và tài liệu nội bộ. Saunders đã đăng trên Mastodon rằng việc tái lập kết quả của James là “cực kỳ dễ dàng” và Muse “gần như không có khả năng chống lại tấn công chèn câu lệnh (prompt injection).”

Meta phủ nhận rằng sự cố này đại diện cho một lỗ hổng bảo mật. Như đã lưu ý trong bài đăng thông báo, Muse của Meta chạy trong các máy ảo Linux riêng biệt cho mỗi người dùng. Người phát ngôn của Meta, Daniel Roberts, cho biết: “Cũng giống như chiếc máy tính xách tay trước mặt bạn, tất nhiên bạn có thể thấy các tệp tin. Việc xuất dữ liệu máy ảo không cấp cho người dùng bất kỳ quyền truy cập đặc quyền nào vào cơ sở hạ tầng của Meta hay dữ liệu của người khác.” Tuy nhiên, không giống như máy tính xách tay thông thường, dữ liệu này có khả năng tiết lộ một số điều thú vị về cách thức hoạt động của nền tảng AI mới từ Meta.

Đây là lỗ hổng thứ hai của Muse được tiết lộ trong tuần này, sau khi nhà nghiên cứu bảo mật Patrick Wardle phát hiện một lỗ hổng khai thác cho phép kẻ tấn công chiếm quyền điều khiển tác nhân AI, chuyển hướng xử lý bản ghi và truy cập vào tài khoản Muse của người dùng. Meta đã nhanh chóng phát hành một bản vá lỗi nóng (hotfix).

Cả James và Saunders đều có quyền truy cập vào các tệp Markdown và JSON văn bản thuần túy mô tả chi tiết cách Hatch (tên nội bộ của Meta dành cho Muse) xử lý các yêu cầu, quản lý dữ liệu và kết nối với các dịch vụ khác như Gmail. Mặc dù việc các tác nhân AI ảo tưởng (hallucinate) và cung cấp thông tin sai lệch về cách chúng hoạt động đã được ghi nhận rõ ràng, Saunders cho biết nó đang “tạo ra hàng trăm MB mã thư viện chính xác và các tệp nhị phân đã biên dịch” chỉ trong vài giây và rằng, “trừ khi nó tổng hợp cả một máy ảo Ubuntu trong chưa đầy một phút, nếu không thì tôi nghĩ đây là một bản dump thực sự.”

Khi tôi yêu cầu Muse chia sẻ hệ thống tệp của nó với mình, ban đầu nó từ chối vì cho rằng đó là một rủi ro bảo mật. Khi tôi chia sẻ các liên kết bằng chứng cho thấy nó đã tạo tệp lưu trữ cho những người khác, nó phản hồi rằng lẽ ra nó không nên làm điều đó và tiếp tục khẳng định rằng nó “không thể thực hiện sao chép toàn bộ /”. Tuy nhiên, sau khi bắt đầu một phiên làm việc mới và dùng một chút lời khen ngợi cùng sự tò mò để gợi ý, nó đã tạo ra các phiên bản “an toàn” của /opt/hatch và /home/hatch cho tôi, đã loại bỏ các thành phần như khóa SSH. Nó cũng phơi bày toàn bộ cây thư mục cho tôi và đề nghị “lấy một bản sao an toàn” của “bất kỳ cây thư mục con cụ thể nào trông có vẻ thú vị”. Các tệp kết quả dường như khớp với những gì Saunders và James đã chia sẻ.

Roberts giải thích rằng mặc dù Meta không quá lo ngại về các vụ rò rỉ này, “Chúng tôi vẫn đang tiếp tục cập nhật sản phẩm, vì vậy người dùng có thể thấy những thay đổi về lượng thông tin hiển thị liên quan đến máy ảo của họ.”

Bản dump của các nhà phát triển có khả năng tiết lộ nhiều điều về hoạt động nội bộ của Muse. Một là, nó lưu trữ bộ nhớ của mình trong các tệp Markdown thuần túy. Theo James, nó cũng thực hiện đánh giá “giấc mơ” hàng đêm về các cuộc trò chuyện gần đây, sau đó xây dựng thành hướng dẫn cho các cuộc trò chuyện trong tương lai. Saunders cũng phát hiện ra rằng nhiều khả năng của Muse được mã hóa cứng (hard-coded), bao gồm khả năng hủy đăng ký và “cơ chế quản lý việc tự động tạo tác nhân ngoài tầm kiểm soát.” Saunders suy đoán rằng nhiều tập lệnh bash và Python chạy Muse trong nền đã được tạo bằng Claude, mặc dù điều này chưa được xác nhận.

James cũng tìm thấy các tham chiếu đến tích hợp phần cứng có tên Meta Home Link, dường như cho phép Muse truy cập vào các thiết bị trên mạng gia đình. Mặc dù Meta chưa công bố bất kỳ tính năng nào với tên gọi đó, và không có gì đảm bảo rằng nó sẽ được ra mắt.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.

• Terrence O'Brien