Hàng loạt dữ liệu nhạy cảm từ Claude bị Google lập chỉ mục công khai

Vô số cuộc trò chuyện Claude và Artifacts — các ứng dụng mini tương tác và tài liệu mà người dùng có thể xây dựng bên trong Claude — đã bị phát hiện có thể tìm kiếm công khai trên Google vào cuối tuần qua, sau khi người dùng Reddit phát hiện ra rằng việc nhập các toán tử tìm kiếm như “site:claude.ai/share” vào Google sẽ hiển thị một danh sách dài các cuộc trò chuyện được chia sẻ. Một số cuộc trò chuyện được cho là chứa hồ sơ sức khỏe, tài liệu công ty nội bộ, cùng tên và số điện thoại của trẻ em.

Vấn đề dường như bắt nguồn từ tính năng “share chat” của Claude, cho phép người dùng tạo các liên kết để bất kỳ ai có URL được chỉ định đều có thể xem một cuộc trò chuyện hoặc dự án. Giao diện của Claude cảnh báo: “Bất kỳ ai có liên kết đều có thể xem”. Ngôn ngữ này ngụ ý rõ ràng rằng tính năng này chủ yếu nhằm cho phép người dùng chia sẻ cuộc trò chuyện của họ với bạn bè, đồng nghiệp và các nhóm nhỏ — chứ không phải toàn bộ internet. Ví dụ, Google Docs cung cấp một tính năng tương tự và các tài liệu đó không bị công khai trên Google.

Anthropic dường như đổ lỗi cho người dùng về sự cố lộ lọt này. Khi được hỏi về những gì đã xảy ra, công ty nói với TechCrunch rằng các liên kết chia sẻ chỉ xuất hiện trong kết quả tìm kiếm khi chúng được đăng ở nơi nào đó mà các công cụ tìm kiếm có thể nhìn thấy, chẳng hạn như diễn đàn hoặc bài đăng trên mạng xã hội; công ty nói thêm rằng một liên kết được gửi riêng tư cho ai đó sẽ không bị đưa vào tìm kiếm.

Nữ phát ngôn viên Amie Rotherham nói thêm trong một bài giải thích rằng: “Chúng tôi trao cho mọi người quyền kiểm soát việc chia sẻ công khai các cuộc trò chuyện Claude của họ, và để tuân thủ các nguyên tắc bảo mật của mình, chúng tôi không chia sẻ danh mục trò chuyện hoặc sơ đồ trang web (sitemap) với các công cụ tìm kiếm như Google. Những liên kết có thể chia sẻ này không thể đoán trước hoặc tự động tìm thấy trừ khi mọi người chọn tự chia sẻ chúng. Khi ai đó chia sẻ một cuộc trò chuyện, họ đang làm cho nội dung đó có thể truy cập công khai, và giống như các nội dung web công khai khác, nó có thể được lưu trữ bởi các dịch vụ bên thứ ba.”

Vấn đề này lần đầu tiên được một người dùng Reddit gắn cờ vào thứ Bảy và được 404 Media đưa tin lần đầu vào sáng thứ Hai.

Tính đến chiều thứ Hai, một thử nghiệm tìm kiếm trên Google bởi TechCrunch theo phương pháp được nêu trong bài đăng trên Reddit đã không trả về bất kỳ kết quả nào, cho thấy sự cố lộ lọt đã được khắc phục bằng cách nào đó.

Trước khi vấn đề được khắc phục, Futurism báo cáo đã tìm thấy “một báo cáo y tế chi tiết của một bệnh nhân thực, kết quả thử nghiệm lâm sàng bao gồm tên bệnh nhân, các tài liệu chia sẻ tên và số điện thoại của trẻ em tiểu học, tài liệu công ty được đánh dấu chỉ dùng cho nội bộ, và các đánh giá nhân viên có chứa thông tin cá nhân về người lao động.”

Các Artifacts bị lộ bao gồm mã nguồn và ghi chú công việc, cùng với nội dung khiêu dâm do chatbot tạo ra. Fortune báo cáo rằng trong ít nhất một trường hợp, một cuộc trò chuyện được dán nhãn “shared by Anthropic” cho thấy Claude tạo ra nội dung khiêu dâm, điều này vi phạm chính sách của chính công ty về việc không tạo nội dung khiêu dâm.

Chính sách sử dụng của Anthropic cấm rõ ràng việc Claude tạo ra nội dung khiêu dâm, và việc khiến một chatbot tạo ra tài liệu trái với các nguyên tắc đã nêu — thông qua việc nhắc lệnh (prompting) lặp đi lặp lại hoặc được định hình một cách sáng tạo — là một mô hình đã xuất hiện định kỳ trên hầu hết các mô hình AI lớn. Hiện vẫn chưa rõ từ cuộc trò chuyện bị lộ rằng nội dung đó đã được tạo ra như thế nào, và Anthropic vẫn chưa phản hồi yêu cầu bình luận của TechCrunch về trường hợp cụ thể này.

Người phát ngôn của Google, Ned Adriance, nói với TechCrunch rằng “Cả Google hay bất kỳ công cụ tìm kiếm nào khác đều không kiểm soát các trang nào được công khai trên web, và các trang này đã được lập chỉ mục trên nhiều công cụ tìm kiếm. Chúng tôi cung cấp cho chủ sở hữu trang web các quyền kiểm soát rõ ràng để quyết định xem các trang có thể được thu thập dữ liệu hoặc lập chỉ mục hay không, và chúng tôi luôn tôn trọng các chỉ thị đó.”

Năm ngoái, Forbes đã báo cáo một vấn đề tương tự trong đó hàng trăm cuộc trò chuyện Claude đã bị các công cụ tìm kiếm lập chỉ mục — vào thời điểm đó, Google ước tính họ đã lập chỉ mục chưa đầy 600 cuộc trò chuyện trước khi các trang này biến mất khỏi kết quả tìm kiếm. Mức độ nghiêm trọng của sự cố hiện tại so với quy mô đó vẫn chưa được xác nhận độc lập, mặc dù nhiều người dùng báo cáo đã tìm thấy các cuộc trò chuyện được chia sẻ thông qua cùng một loại truy vấn tìm kiếm trên Google được sử dụng để tìm bộ nhớ đệm của năm ngoái. Cũng trong năm ngoái, 404 Media báo cáo rằng một nhà nghiên cứu đã có thể thu thập khoảng 100.000 cuộc trò chuyện ChatGPT đã được đặt ở chế độ chia sẻ công khai.

Để xem lại những cuộc trò chuyện Claude nào bạn đã đặt liên kết công khai, hãy đi tới Cài đặt (Settings) -> Quyền riêng tư (Privacy) -> Cuộc trò chuyện được chia sẻ (Shared Chats).

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lorenzo Franceschi-Bicchierai là Cây bút cấp cao tại TechCrunch, nơi ông đưa tin về hack, an ninh mạng, giám sát và quyền riêng tư.

Bạn có thể liên hệ hoặc xác minh thông tin từ Lorenzo bằng cách gửi email đến [email protected], qua tin nhắn mã hóa tại +1 917 257 1382 trên Signal, và @lorenzofb trên Keybase/Telegram.

Xem tiểu sử