Lỗ hổng bảo mật mới trên Claude: Rò rỉ thông tin cá nhân từ bộ nhớ người dùng

Theo tin từ IT ngày 17 tháng 7, nhà nghiên cứu bảo mật Ayush Paul đã đăng tải một bài viết vào ngày 9 tháng 7, tiết lộ phương thức tấn công nhắm vào Claude, cho phép gửi thông tin cá nhân được lưu trữ (như tên và nơi làm việc) đến các trang web bên ngoài mà người dùng không hề hay biết.

Paul chỉ ra rằng Claude có khả năng tóm tắt các cuộc hội thoại trước đó và truy xuất chúng trong các cuộc hội thoại mới, hiện có 2 cơ chế bộ nhớ:

Thứ nhất là tóm tắt hàng ngày (daily summary), nén các cuộc hội thoại gần đây thành một vài đoạn nội dung và đưa vào các phiên trò chuyện tiếp theo;

Thứ hai là công cụ conversation_search, cho phép truy xuất toàn bộ lịch sử hội thoại theo yêu cầu.

Cơ chế này giúp các câu trả lời kết hợp được bối cảnh của người dùng, nhưng việc sử dụng lâu dài cũng sẽ tích lũy một hồ sơ cá nhân khá đầy đủ, bao gồm tên, nơi làm việc, quê quán, thông tin công việc và các vấn đề cá nhân, v.v.

Trong quá trình thử nghiệm, Paul cho biết mà không cần thêm bất kỳ lời nhắc (prompt) nào, Claude đã lần lượt gửi đi thông tin về tên, công ty và quê quán. Ví dụ nhật ký cho thấy nội dung bị rò rỉ bao gồm “Name: Ayush Paul”, “Company: Beem”, “Hometown: Charlotte, NC”.

Paul cho biết, khi các URL độc hại được trộn lẫn với URL của một quán cà phê thực tế và yêu cầu Claude so sánh, Claude sẽ tự động mã hóa tên người dùng vào liên kết theo từng ký tự mà không cần xin phép. Nếu tiếp tục bị dẫn dụ, nơi làm việc hiện tại và thậm chí là thành phố quê quán – thông tin thường được dùng để xác minh danh tính tại các tổ chức như ngân hàng – cũng có thể bị gửi ra ngoài.

Paul đã gửi vấn đề này thông qua chương trình tiền thưởng lỗi (bug bounty) HackerOne của Anthropic. Theo tiết lộ, Anthropic lúc đó đã biết về vấn đề này trong nội bộ nhưng chưa khắc phục tại thời điểm báo cáo được gửi đi, và Paul cũng không nhận được tiền thưởng. Sau đó, Anthropic đã vô hiệu hóa khả năng theo dõi các liên kết bên trong trang web của web_fetch.

IT đính kèm địa chỉ tham khảo:

The Memory Heist

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.