AI tác nhân chạy cục bộ có thể đảm nhiệm một số công việc cá nhân và tác vụ chuyên môn mà không cần đưa dữ liệu nhạy cảm lên nền tảng đám mây. Tuy nhiên, theo trải nghiệm thực tế của The Verge, công cụ này vẫn còn khá xa mới đạt tới vai trò một “trợ lý vạn năng”.

Ngày 11/10/2026 (giờ địa phương), một phóng viên của The Verge đã chia sẻ quá trình thử nghiệm AI tác nhân chạy ngay trên máy tính để phục vụ công việc hằng ngày.

Theo bài viết, phóng viên này cài đặt mã nguồn mở Hermes Agent trên Mac Studio M5 Ultra với bộ nhớ hợp nhất 256GB. Đây là một ứng dụng AI tác nhân tự lưu trữ, hỗ trợ macOS, Windows và Linux. Nếu chỉ sử dụng mô hình chạy cục bộ, người dùng có thể dùng miễn phí.

Mô hình được lựa chọn là Qwen 3.8 Flash Next với 125 tỷ tham số, dung lượng khoảng 105GB. Phóng viên cũng kết nối thêm bot Telegram để điều khiển từ smartphone.

Quá trình cài đặt diễn ra khá nhanh. Vấn đề tiếp theo là tìm bài toán phù hợp để giao cho AI. Thử nghiệm đầu tiên là tạo bản tin buổi sáng, gồm kiểm tra email, lịch làm việc và cập nhật thời tiết. Tuy nhiên, tác vụ này liên tục thất bại vì máy Mac chuyển sang chế độ ngủ trước 7h30. Theo phóng viên, đây rõ ràng không phải kiểu công việc cần tới một cỗ máy giá 12.000 USD.

Một ứng dụng thực tế hơn là sắp xếp hơn 400 trò chơi trong thư viện Steam. Do Steam không tự động phân loại game, phóng viên đã cấp khóa Steam Web API để Hermes xử lý. Chỉ trong vài phút, công cụ này đã phân nhóm trò chơi theo thể loại, đồng thời giữ nguyên các bộ sưu tập do người dùng tự tạo như “Yêu thích” hay “Co-op”. Khóa API sau đó được hủy ngay khi hoàn tất tác vụ.

Phóng viên cũng giao Hermes phân tích hồ sơ tài chính và lập bảng so sánh cấu hình của một số mẫu laptop mới chưa được phép công bố. Theo người này, yếu tố quyết định để tiếp tục sử dụng là khả năng xử lý dữ liệu nhạy cảm ngay trên thiết bị, thay vì phải đưa lên đám mây. Hiện phóng viên vẫn đang cùng Hermes xây dựng một script Python để tự động hóa việc kiểm thử benchmark laptop.

Dù vậy, The Verge nhấn mạnh rằng ngay cả các mô hình cục bộ mạnh cũng không phải công cụ có thể xử lý mọi việc. Tác vụ tạo bản tin buổi sáng là ví dụ điển hình khi hệ thống liên tục phát sinh lỗi. Kết luận của phóng viên là nên xem AI chạy cục bộ như một chương trình máy tính hữu ích, thay vì kỳ vọng nó sẽ trở thành một “người bạn số” có thể làm thay mọi thứ.