NVIDIA đưa Perplexity 'Portable Computer' lên PC chạy Windows RTX

Theo tin từ IT ngày 14 tháng 9, NVIDIA thông báo rằng nền tảng tác nhân (agent) cục bộ "Portable Computer" của Perplexity hiện đã khả dụng cho người dùng Windows RTX PC.

Với năng lực của các mô hình ngôn ngữ lớn (LLM) cục bộ ngày càng được tăng cường, các tác nhân AI có thể trực tiếp xử lý nhiều tác vụ hơn ngay trên máy tính cá nhân, đồng thời giữ lại các thông tin nhạy cảm bên trong thiết bị.

Theo giới thiệu, Portable Computer là phiên bản cục bộ của sản phẩm tác nhân Perplexity Computer, có khả năng lập kế hoạch và thực hiện các tác vụ đa bước. Sản phẩm này dựa trên khả năng tăng tốc của GPU NVIDIA, sử dụng các mô hình cục bộ để phân tích dữ liệu, tổng hợp thông tin từ nhiều tệp tin và xử lý các công việc lặp đi lặp lại. Dữ liệu nhạy cảm được lưu trữ hoàn toàn trên thiết bị cục bộ và các tác vụ hoàn thành trên máy sẽ không tiêu tốn hạn mức dịch vụ của Perplexity Computer. Người dùng cũng có thể chuyển giao các tác vụ cho mô hình trên đám mây để thực hiện các công việc nghiên cứu và suy luận cấp cao hơn.

Hôm nay, Perplexity đã ra mắt tính năng Portable Computer trong ứng dụng khách trên Windows, hỗ trợ các PC tương thích trang bị card đồ họa NVIDIA GeForce RTX và các máy trạm chuyên nghiệp NVIDIA RTX PRO, giúp nhiều người dùng máy tính Windows hơn có thể tiếp cận AI tác nhân hiệu năng cao. Lần ra mắt này là sự mở rộng tiếp theo trên nền tảng đã hỗ trợ hệ thống NVIDIA DGX Spark và các PC chạy RTX trên hệ điều hành Linux.

Perplexity tích hợp AI cục bộ và AI đám mây trong cùng một ứng dụng, cho phép người dùng xử lý các tệp tin nhạy cảm trên máy tính cá nhân, đồng thời có thể gọi các công cụ tích hợp sẵn của Computer như trình duyệt tích hợp và môi trường sandbox SPACE tự phát triển. Khi gặp các tác vụ đòi hỏi suy luận cấp cao, Portable Computer có thể tự động nhận diện rằng tác vụ đó cần sự hỗ trợ từ sức mạnh tính toán trên đám mây và sẽ xin phép người dùng trước khi truyền dữ liệu ra khỏi máy.

Ứng dụng này đơn giản hóa quy trình triển khai mô hình cục bộ, tích hợp sẵn mô hình Qwen 3.8 27B; mô hình này đã được tinh chỉnh (fine-tuned) để thích ứng với Perplexity Computer và được tối ưu hóa cho GPU NVIDIA RTX. Người dùng không cần phải tự nghiên cứu mô hình hay cấu hình môi trường phần mềm phức tạp để chạy AI cục bộ mà vẫn có thể kích hoạt bộ tác nhân này.

Sản phẩm cung cấp các trình kết nối (connector) cho Microsoft Outlook, OneDrive, Word, Google Drive, Gmail, Slack và GitHub, giúp kết nối các loại tệp tin và ứng dụng trong quy trình làm việc hàng ngày của người dùng, từ đó mở rộng các kịch bản sử dụng.

Một số ví dụ về các tác vụ mà tác nhân có thể hoàn thành:

Lĩnh vực kỹ thuật: Đọc các yêu cầu hợp nhất mã (pull request) từ dự án GitHub đã kết nối, phân loại theo trạng thái và sắp xếp các công việc tiếp theo. Nó cũng có thể nhận diện các tài liệu lỗi thời và tạo đề xuất sửa đổi để gửi đi phê duyệt.

Lĩnh vực tài chính: Cung cấp cho nó sao kê tài khoản môi giới trong hai năm, biểu mẫu thuế 1099 đã hợp nhất và tờ khai thuế, tác nhân có thể tìm ra các tài sản phát sinh phí giao dịch và tổn thất thuế lớn có thể tránh được trong danh mục nắm giữ dài hạn. Tất cả dữ liệu đều được chú thích kèm theo tệp tin và số trang tương ứng, toàn bộ quá trình không có tệp tin nào được tải lên chatbot.

Doanh nghiệp khởi nghiệp: Hỏi nó về nguyên nhân khiến lượng kích hoạt người dùng bị đình trệ. Tác nhân sẽ phân tích dữ liệu xuất ra từ phễu chuyển đổi ngay tại máy, xác định các điểm khiến người dùng mới rời bỏ từ bước cài đặt ứng dụng đến khi hoàn thành tác vụ đầu tiên, sau đó gửi trực tiếp kết luận phân tích cốt lõi tới kênh Slack của nhóm.

IT lưu ý rằng, Portable Computer phù hợp với các thiết bị sử dụng card đồ họa NVIDIA GeForce RTX và RTX PRO có bộ nhớ video (VRAM) từ 24GB trở lên. Tính năng hỗ trợ cho các máy trạm NVIDIA DGX Station dự kiến sẽ sớm ra mắt.