Perplexity ra mắt Hybrid Compute trên Mac: Kết hợp AI đám mây và mô hình cục bộ để bảo mật dữ liệu

Các trợ lý AI (Agentic assistants) đang gặp một vấn đề về cấu trúc: ngữ cảnh giúp chúng trở nên hữu ích — như tài liệu giao dịch, tệp tin bảo mật, hồ sơ khách hàng — lại chính là những dữ liệu mà người dùng không thể gửi lên các điểm cuối đám mây (cloud endpoint). Tuần này, Perplexity đã đưa ra giải pháp cho Mac. Tính năng điện toán lai (hybrid compute) chia nhỏ một tác vụ của Perplexity Computer giữa các mô hình tiên tiến trên đám mây và một mô hình nhỏ gọn trên máy Mac của người dùng, với một cổng bảo mật (privacy gate) chạy trên thiết bị để quyết định những gì được phép vượt qua ranh giới này. Perplexity cũng đã mở mã nguồn bộ phân loại đứng sau cổng bảo mật đó.

Liệu nó có khả thi để triển khai? Có, điện toán lai hiện đã khả dụng cho người dùng gói Pro, Max và Enterprise trên bất kỳ máy Mac chạy chip Apple silicon nào sử dụng macOS 15 trở lên với ít nhất 24GB bộ nhớ thống nhất (khuyến nghị 32GB). Mô hình cục bộ được cài đặt chỉ bằng một cú nhấp chuột từ ứng dụng Mac, không cần Ollama, không cần runtime riêng biệt, không cần khóa API và các tác vụ cục bộ không tiêu tốn tín dụng đám mây.

Cách thức hoạt động thực tế của điện toán lai

Hướng điều phối là quyết định thiết kế then chốt. Computer bắt đầu mọi tác vụ trên đám mây, nơi các mô hình tiên tiến xử lý tìm kiếm web, lập kế hoạch và suy luận dài hạn. Khi một bước liên quan đến tệp tin riêng tư hoặc dữ liệu nhạy cảm, Computer sẽ chuyển bước đó xuống mô hình cục bộ trên máy Mac mà không cần khởi động lại tác vụ hay làm mất ngữ cảnh, sau đó hợp nhất cả hai phần thành một kết quả duy nhất.

Điều này đảo ngược chế độ điện toán cục bộ mà Perplexity đã ra mắt trên NVIDIA DGX Spark một tuần trước đó, vốn bắt đầu trên phần cứng của người dùng và leo thang lên các mô hình đám mây khi được cấp quyền. Cùng một bộ điều phối, nhưng mặc định ngược lại.

Vì Computer hoạt động với iPhone, một tác vụ có thể được kích hoạt từ xa trong khi các bước nhạy cảm được thực thi trên máy Mac tại bàn làm việc. Perplexity định vị một chiếc Mac mini luôn bật như một nút suy luận cục bộ chuyên dụng cho chính mô hình này.

Cổng bảo mật là thành phần chịu tải chính

Trước khi bất kỳ dữ liệu nào từ tệp tin được bảo vệ chạm tới đám mây, một bộ phân loại trên thiết bị sẽ kiểm tra nó và cổng bảo mật sẽ áp dụng một trong bốn kết quả: giữ tại cục bộ, che các đoạn nhạy cảm, từ chối hành động hoặc yêu cầu người dùng xác nhận. Thông tin xác thực, số thẻ thanh toán và giấy tờ tùy thân của chính phủ được xử lý nghiêm ngặt nhất. Các giá trị bị che sẽ được thay thế bằng các ký tự đại diện khi gửi đi và khôi phục lại khi nhận phản hồi từ đám mây.

PII-Tracer là một bộ mã hóa hai chiều 0.6B được tinh chỉnh từ nền tảng Qwen3, thay thế mặt nạ nhân quả (causal mask) bằng cơ chế chú ý hai chiều nhận biết đệm (padding-aware bidirectional attention) trên cửa sổ 4.096 token. Một đầu phân loại tuyến tính xuất ra 37 nhãn, bao gồm một nhãn ngoài phạm vi và các nhãn vị trí BIOES cho mỗi loại trong chín loại PII, cùng một đầu phụ dự đoán liệu cuộc hội thoại có chứa tài liệu nhạy cảm hay không. Quá trình huấn luyện kéo dài ba epoch trên khoảng 714.000 mẫu; một bộ giải mã Viterbi có ràng buộc sẽ giải quyết chuỗi nhãn tại thời điểm suy luận.

PII-TRACE, bộ benchmark đi kèm, chứa 13.148 cuộc hội thoại tổng hợp trên 13 ngôn ngữ và 10 hệ thống chữ viết, với 37.431 lượt đề cập định danh ở cấp độ ký tự. Tuyên bố trọng tâm của nó là việc tìm thấy hầu hết PII trong một cuộc hội thoại dài không giống với việc tìm thấy mọi bản sao của nó.

Về kết quả: trên 12 bộ dò, PII-Tracer ghi nhận chỉ số F1 ký tự cao nhất (0.629) và chỉ số F1 về độ chồng lấp phạm vi và bao hàm phạm vi tốt thứ hai, chỉ sau GPT-5.6-sol. Về tính nhất quán, nó dẫn trước với khoảng cách lớn — tìm thấy mọi lượt đề cập cho 79,4% định danh lặp lại và 77,6% định danh xuyên lượt, so với 57,0% và 55,1% của GPT-5.6-sol. Trong nhóm khó nhất (6–10 lượt đề cập), nó đạt 0.691 so với 0.464 của GPT-5.6-sol, 0.073 của GLiNER2-PII và 0.045 của Claude Opus 4.8.

Rất thú vị khi biết rằng khả năng thu hồi (recall) trên một cửa sổ đơn lẻ giảm từ 0.975 trên các cuộc hội thoại dưới 1.000 ký tự xuống 0.687 ở mức 10.000 ký tự trở lên. Giải pháp của Perplexity là giải mã, không phải huấn luyện lại: các cửa sổ trượt chồng lấp 50% giúp nâng khả năng thu hồi ký tự tổng thể từ 0.830 lên 0.965 và khả năng phát hiện nhất quán đa lượt đề cập từ 0.794 lên 0.954 trên cùng một checkpoint.

Giải thích: cách một tác vụ được chia nhỏ giữa đám mây và máy Mac

Các mô hình, quyền kiểm soát và tính khả dụng

Thông báo của Perplexity liệt kê ba mô hình cục bộ khi ra mắt: Gemma 4 E4B, Qwen3.6 35B-A3B và một mô hình Perplexity được huấn luyện hậu kỳ cho Computer. Luồng thiết lập trên trang sản phẩm dẫn đến việc tải xuống chỉ bằng một cú nhấp chuột PPLX Qwen 3.8 27B; tổ chức Hugging Face của Perplexity cũng cung cấp các bản dựng pplx-computer-qwen-3-8-27b tương ứng cùng với pplx-pii-masking-vllm, mô hình phân loại token 0.6B đứng sau cổng bảo mật.

Đối với doanh nghiệp, quản trị viên có thể thiết lập các quy tắc toàn tổ chức về những gì phải giữ trên thiết bị, những gì có thể được che và những gì yêu cầu sự phê duyệt rõ ràng — cộng với nhật ký kiểm toán cho những trường hợp thông tin rời khỏi máy. Đây chính là yếu tố giúp giải pháp này trở nên hữu dụng cho các nhóm pháp lý, y tế và tài chính thay vì chỉ là một công nghệ thú vị.

Những điểm chính cần lưu ý

Hãy xem thông báo của Perplexity, bài nghiên cứu PII-TRACE và mô hình trên Hugging Face. Ngoài ra, hãy thoải mái theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML 150k+ của chúng tôi và đăng ký Bản tin của chúng tôi. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Bạn cần hợp tác với chúng tôi để quảng bá GitHub Repo, Trang Hugging Face, Phát hành sản phẩm hoặc Hội thảo trực tuyến, v.v.? Hãy kết nối với chúng tôi.

Asif Razzaq là CEO của Marktechpost Media Inc. Với tư cách là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt Nền tảng truyền thông Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về học máy và học sâu, vừa đảm bảo tính kỹ thuật vừa dễ hiểu đối với đông đảo khán giả. Nền tảng này tự hào với hơn 2 triệu lượt xem hàng tháng, minh chứng cho sự phổ biến của nó đối với độc giả.