Perplexity ngày 1/9 (giờ địa phương) công bố tính năng Hybrid Compute cho ứng dụng Mac, cho phép giữ dữ liệu nhạy cảm trên thiết bị và chỉ chuyển phần xử lý còn lại lên đám mây. Theo Engadget, tính năng này được bổ sung nhằm tăng cường bảo mật dữ liệu và giảm chi phí suy luận.

Hybrid Compute phân chia một tác vụ giữa mô hình chạy trên đám mây và mô hình ngôn ngữ lớn chạy cục bộ trên máy người dùng. Trong đó, các mô hình như Opus 5 và GPT-5.6 Sol đảm nhiệm phần xử lý trên đám mây, còn phần cục bộ do mô hình chạy trực tiếp trên máy Mac thực hiện.

Perplexity đưa ra ví dụ về một luật sư chuẩn bị hồ sơ và đối chiếu vụ việc hiện tại với các án lệ trước đó mà không cần gửi thông tin khách hàng ra bên ngoài.

John Staff, lãnh đạo mảng sản phẩm Perplexity trên Mac, cho biết hệ thống có thể tự động phát hiện nội dung nhạy cảm khi người dùng tải tệp lên hoặc nhập dữ liệu, đồng thời yêu cầu xác nhận trước khi gửi thông tin đó lên đám mây. Công ty cũng bổ sung tính năng gợi ý những tệp và dữ liệu nên được giữ lại trên thiết bị khi dùng Hybrid Compute.

Trước khi tác vụ được phân chia, người dùng có thể tự kiểm tra tệp nào sẽ được giữ trên máy và chọn mô hình muốn sử dụng. Các mô hình cục bộ hiện được hỗ trợ gồm hai dòng Gemma E4B và Qwon 35B 3.6, trong đó có một mô hình đã được Perplexity huấn luyện bổ sung. Ứng dụng sẽ tự cài các mô hình cục bộ mà không cần người dùng mở Terminal trên Mac.

Khi tác vụ bắt đầu, màn hình sẽ hiển thị mức sử dụng CPU, GPU và bộ nhớ cục bộ. Thanh bên cũng cho biết số token đã được dùng trong quá trình xử lý. Token do mô hình cục bộ tạo ra trên máy người dùng sẽ không bị tính phí. Sau khi nhận kết quả, người dùng có thể tiếp tục nhập chỉ dẫn mới và có thể đưa tác vụ vào hàng chờ từ iPhone.

Perplexity cho biết xét riêng về hiệu năng, phương thức xử lý hoàn toàn trên đám mây thường cho chất lượng đầu ra tốt hơn. Tuy nhiên, với những người dùng ưu tiên bảo mật dữ liệu và chi phí hơn hiệu năng tối đa, công ty muốn cung cấp thêm lựa chọn phù hợp với từng tính chất công việc.

Hiện Hybrid Compute chỉ hỗ trợ trên máy Mac dùng Apple Silicon chạy macOS 15. Perplexity khuyến nghị thiết bị có tối thiểu 32 GB bộ nhớ hợp nhất. Tính năng này hiện dành cho người dùng gói Pro, gói Max và khách hàng doanh nghiệp.