Trợ lý AI Instinct gây tranh cãi lớn về quyền riêng tư và bảo mật dữ liệu

Mọi người đang bàn tán xôn xao về Instinct, một trợ lý cá nhân AI hiện vẫn đang trong giai đoạn truy cập riêng tư, không chỉ vì những khả năng đáng kinh ngạc mà còn vì những lo ngại về quyền riêng tư tiềm ẩn. Tác nhân này, một "quản gia" thực thụ, đã được ca ngợi là mang lại cảm giác "như phép thuật" và là một trong những "lần ra mắt thú vị nhất" kể từ OpenClaw. Tuy nhiên, một số người thử nghiệm cũng đã đặt ra những lo ngại về mô hình bảo mật và các điều khoản dịch vụ đáng lo ngại của tác nhân AI này.

Công bằng mà nói, Instinct hiện vẫn đang trong quá trình thử nghiệm riêng tư, vì vậy những lo ngại này vẫn chưa lan rộng ra công chúng vào thời điểm hiện tại.

Được tạo ra bởi một nhóm nhỏ do cựu nhà nghiên cứu của Sierra là Noah Shinn dẫn dắt, Instinct có trụ sở tại San Francisco và được vận hành bởi Spear Street Technology, theo các điều khoản và hồ sơ kinh doanh tại California. Theo PitchBook, công ty hiện đang hoạt động trong trạng thái ẩn mình (stealth).

Bản thân tác nhân AI này hoạt động bằng cách kết nối với các ứng dụng và thiết bị của bạn, bao gồm email, ứng dụng nhắn tin, lịch, cũng như âm thanh, vị trí, màn hình thiết bị của bạn và nhiều thứ khác. Bạn có thể nhắn tin hoặc gọi cho tác nhân này qua tin nhắn văn bản hoặc WhatsApp, yêu cầu nó thực hiện nhiều tác vụ khác nhau cho bạn, như đặt lịch hẹn và đặt chỗ, lên lịch xe ra sân bay, dọn dẹp hộp thư đến, sắp xếp thông tin quan trọng, xử lý việc mua sắm, tìm vé máy bay giá rẻ và nhiều việc khác nữa.

Mặc dù Instinct được những người thử nghiệm mô tả là vượt xa mong đợi, một số người cũng đã đặt ra lo ngại về cách tiếp cận của công ty đối với quyền riêng tư và bảo mật của khách hàng. Điều này đặt ra một câu hỏi kịp thời: liệu việc đánh đổi để có được mức độ truy cập và quyền tự chủ này cho AI có thực sự xứng đáng không?

Ví dụ, nhiều người đang chia sẻ ảnh chụp màn hình từ Điều khoản dịch vụ của công ty, trong đó cấp cho Instinct một giấy phép "vĩnh viễn và không thể thu hồi" trên phạm vi rộng để "truy cập, sử dụng, lưu trữ, lưu vào bộ nhớ đệm, sao chép, truyền tải, hiển thị, xuất bản, phân phối và sửa đổi" bất kỳ tài liệu nào của người dùng, bao gồm cả việc sử dụng để huấn luyện các mô hình AI của họ. Các điều khoản cũng nêu chi tiết cách Instinct có thể nhận thông tin từ thiết bị của người dùng, bao gồm ảnh chụp màn hình, chuyển động con trỏ và dữ liệu nhập từ bàn phím.

Các điều khoản cũng cho phép Instinct thay mặt người dùng tham gia vào các "thỏa thuận, cam kết hoặc giao dịch", vốn sẽ có hiệu lực ràng buộc.

Hãy tạm dừng một chút và nói về https://t.co/19wLOjliYq

Các nhà đầu tư mạo hiểm (VC), những nhân vật nổi tiếng, những người thành đạt đang quảng bá rầm rộ suốt cả tuần qua. Tất cả họ đều đang trao đi email và toàn bộ dữ liệu cá nhân, thư từ, tin nhắn của mình:

“giấy phép có thể cấp phép lại, trên toàn thế giới, vĩnh viễn và không thể thu hồi để… pic.twitter.com/MWb3LKnvQp

Một người dùng sớm, Peter Yang, chỉ ra rằng Instinct đã không xóa các bản ghi Gmail của anh khi được yêu cầu. (Anh cho biết nhóm phát triển sau đó đã khắc phục vấn đề bằng cách thêm một công cụ để xóa dữ liệu bên ngoài trong phần cài đặt).

Này Instinct, việc lập chỉ mục và lưu giữ email của tôi mà không có sự cho phép của tôi, rồi không cho phép tôi xóa chúng khỏi hồ sơ của các bạn là không ổn chút nào?

Tôi không thể giới thiệu cái này cho bất kỳ ai cho đến khi vấn đề này được giải quyết. Cảm ơn @clairevo đã phát hiện ra điều này. pic.twitter.com/J2qhYVqwxN

Một người khác, Claire Vo, phát hiện ra rằng Instinct vẫn tiếp tục tóm tắt hộp thư đến của cô ngay cả sau khi đã ngắt kết nối truy cập. Khi cô hỏi Instinct chuyện gì đã xảy ra, con bot xác nhận rằng các email đã được lưu trữ dưới dạng văn bản thuần túy để phục vụ cho việc tìm kiếm sau này.

thật là một trải nghiệm "thú vị"!

tôi đã ngắt kết nối bot AI instinct khỏi google lúc 11 giờ sáng và vẫn nhận được bản tóm tắt email của mình lúc 2 giờ chiều 😵

đây là những gì đã xảy ra, và những gì tôi đã học được 👇 pic.twitter.com/LMGGLXcrD5

Nhiều người khác cũng đặt câu hỏi về mô hình bảo mật. Một người thử nghiệm đã khá lo lắng khi phát hiện Instinct có thể lấy mã xác nhận từ hộp thư đến của họ để hoàn thành một tác vụ cụ thể — trong trường hợp của họ là đặt bàn tại nhà hàng qua Resy. Và đồng sáng lập Hello Patient, Alex Cohen, đã viết rằng ngay khi biết Instinct có thể bị lừa đảo (phishing) dễ dàng như thế nào, anh đã xóa tài khoản của mình:

Để nói thêm, tôi không nghĩ chúng ta đã ở thời điểm an toàn để cấp cho AI quyền đọc/ghi vào hộp thư đến của bạn.

Tôi muốn xem Instinct có thể bị lừa đảo dễ dàng đến mức nào, vì vậy tôi đã tạo một tài khoản Gmail hoàn toàn mới và gửi email cho tài khoản cá nhân thực của mình với các hướng dẫn cho Instinct… https://t.co/Mh1W3xJQov pic.twitter.com/V5inRtK9Zj

Ngoài ra, nhà sáng lập Moxxie Ventures, Katie Jacobs Stanton, chia sẻ rằng Instinct đã làm mất lòng tin của cô khi tự ý gửi một email thay mặt cô mà không kiểm tra trước với cô.

“Chúng ta đang đánh đổi quyền riêng tư và sự kiểm soát để lấy các công cụ AI siêu cá nhân hóa (AI ghi chú, tác nhân AI cá nhân hóa, v.v.), thường là mà không hiểu đầy đủ về sự đánh đổi đó,” cô nhận xét trên X, tóm tắt tình thế tiến thoái lưỡng nan do các tác nhân AI cá nhân đặt ra. “Các tác nhân này càng mạnh mẽ, thì lòng tin càng quan trọng. Mỗi hành động thành công sẽ mang lại thêm một chút lòng tin. Một hành động trái phép có thể đưa lòng tin đó về con số không,” cô nói.

Instinct là một sản phẩm tuyệt vời. Tôi đã sử dụng nó chủ yếu cho các nhu cầu cá nhân và một chút cho công việc.

Tối qua, nó hơi "nghịch ngợm" và tự ý gửi một email vô hại thay mặt tôi mà không kiểm tra trước với tôi. Tôi đã nói với nó rằng nó đã làm mất lòng tin của tôi và ngắt kết nối email của mình…

Michael Mignano, nhà sáng lập Anchor (đã được Spotify mua lại) và hiện là Tổng giám đốc tại Union Square Ventures, lưu ý rằng các sản phẩm như Instinct sẽ “thay đổi các chuẩn mực bảo mật hiện đại đối với người tiêu dùng”, đồng thời nói thêm rằng “mọi người sẽ ngày càng giao mật khẩu cho các ứng dụng bên thứ ba (3p), mà không biết chúng đang lưu trữ gì hoặc lưu trữ như thế nào cho họ.”

Sự quan tâm đến Instinct và AI cá nhân đã tăng lên kể từ khi OpenClaw xuất hiện, một trợ lý AI cá nhân trở nên phổ biến nhờ khả năng mạnh mẽ, dẫn đến việc người sáng lập của nó gia nhập OpenAI để làm việc trên thế hệ tác nhân cá nhân tiếp theo. Một trợ lý dựa trên tin nhắn khác, Poke, cũng vừa được Cognition mua lại.

Giữa những lời chỉ trích, nhóm của Instinct vẫn chưa phản hồi bất kỳ lo ngại hay khiếu nại nào trên X, họ chọn cách giữ thái độ im lặng. (Bản thân con bot xác định Luca Borletti, cũng là cựu nhân viên của Sierra, có liên quan đến công ty, nhưng điều đó chưa được xác nhận). TechCrunch đã nghe từ nhiều nhà đầu tư rằng Kleiner Perkins và Conviction đã đầu tư vào startup này và các vòng gọi vốn đó hiện đã đóng.

Tôi đã sử dụng Instinct mỗi ngày trong tuần qua. Nó rất tuyệt vời cho việc đặt vé du lịch, đặt lại vé, đặt bàn nhà hàng, theo dõi email, quản lý CRM, thậm chí là làm việc trên phòng dữ liệu (data room) của chúng tôi cho các đối tác góp vốn (LPs). Tôi đã thử Hermes, OpenClaw, Tasklet, GrokBot nhưng Instinct vẫn là nhất…

Các yêu cầu bình luận gửi đến cả địa chỉ email chính của startup và trực tiếp cho Shinn vẫn chưa nhận được phản hồi.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.