Perplexity vừa công bố bản xem trước nghiên cứu của một mô hình điều phối được hậu huấn luyện từ GLM 5.2, mô hình AI mã nguồn mở do Z.ai phát triển. Theo công ty, mô hình này được tối ưu cho hệ thống tác nhân của Perplexity, đạt hiệu năng gần với Claude Opus 4.8 của Anthropic nhưng chi phí chỉ ở mức 0,344 lần.

Theo Decrypt ngày 9/7, mô hình mới được thiết kế để điều phối tác vụ trong môi trường máy tính của Perplexity và chỉ chuyển sang Claude Opus 4.8 khi thực sự cần thiết.

Perplexity cho biết đã hậu huấn luyện GLM 5.2 cho môi trường tác nhân “Computer” của hãng. Mô hình hiện được cung cấp dưới dạng research preview trong môi trường vận hành thực tế. Theo giải thích của công ty, chi phí vận hành chỉ bằng 34,4% so với Opus, trong khi hiệu năng vẫn bám sát nhóm mô hình hàng đầu.

Cốt lõi của cách tiếp cận này là không sử dụng mô hình đắt tiền cho mọi yêu cầu. Perplexity tích hợp công cụ “advisor” trên nền GLM 5.2 để phân loại tác vụ: tác vụ nào mô hình có thể tự xử lý, tác vụ nào cần chuyển sang một mô hình bên ngoài mạnh hơn. Phần lớn khối lượng công việc do GLM 5.2 đảm nhiệm, còn những tác vụ khó hơn mới được chuyển sang Claude Opus 4.8.

So sánh về chi phí cũng phản ánh rõ cách vận hành này. Theo chỉ số hiệu quả nội bộ của Perplexity, mô hình hậu huấn luyện có gắn “advisor” có chi phí vận hành cao gấp khoảng hai lần so với GLM 5.2 gốc. Tuy nhiên, nếu so với phương án xử lý toàn bộ tác vụ bằng Opus 4.8, chi phí thấp hơn khoảng 6 lần, theo cách tính nội bộ của công ty.

GLM 5.2 là mô hình có khoảng 744 tỷ tham số, được Z.ai phát hành theo giấy phép MIT vào tháng 6. Mô hình đi kèm trọng số mở, cho phép người dùng tải về, chỉnh sửa hoặc hậu huấn luyện cho mục đích thương mại. Perplexity cho biết đã tận dụng cấu trúc này để điều chỉnh theo nhu cầu riêng.

Đây là lần thứ hai trong 18 tháng Perplexity hậu huấn luyện một mô hình mã nguồn mở từ Trung Quốc. Trước đó, công ty từng giới thiệu R1-1776, mô hình được xây dựng trên nền DeepSeek R1.

Mô hình mới hiện chạy trên GPU Nvidia B200 tại Mỹ. Perplexity cho biết sẽ công bố đầy đủ benchmark cùng bài báo nghiên cứu trong vài tuần tới.

Theo Perplexity, mô hình này phản ánh chiến lược dùng mã nguồn mở làm lớp xử lý nền với chi phí thấp, sau đó chỉ chuyển sang mô hình hiệu năng cao ở những tác vụ cần thiết. Công ty cũng cho biết sẽ tiếp tục lặp lại cách hậu huấn luyện này nhằm nâng hiệu quả chi phí cho hệ thống tác nhân của mình.