Sigil Wen, chuyên gia AI đứng sau mô hình on-device AI Underdog, cho rằng làn sóng AI đang dịch chuyển khỏi các trung tâm dữ liệu để tiến thẳng lên thiết bị cá nhân. Trong bài đăng gần đây trên X, ông nhận định phần lớn token AI do con người tạo ra trong thời gian tới sẽ được sinh ra ngay trên smartphone và laptop.

Theo Sigil Wen, chỉ 6 tháng trước, Claude Opus 4.6 vẫn được xem là mô hình AI dẫn đầu. Tuy nhiên, ông cho biết Qwen 3.8 27B, chạy trên nền tảng Underdog 27B trên Mac và iPhone, đã đạt điểm số cao hơn Opus 4.6 Max trong các bài đánh giá hiệu năng công khai, dù chỉ có 27 tỷ tham số.

Từ đó, ông đặt ra câu hỏi cốt lõi: khi AI đã có thể nằm trong tay người dùng, AI nên thuộc về ai. Theo ông, không có nhiều lý do để người dùng tiếp tục giao dữ liệu cá nhân cho bên thứ ba hoặc phải trả tiền cho các token mà máy tính cá nhân có thể tự tạo ra.

Sigil Wen cho rằng phần lớn tác vụ hằng ngày không cần tới các mô hình quy mô cực lớn. Ông nói cuộc đua mô hình frontier có ý nghĩa với những bài toán như nghiên cứu chữa ung thư, nhưng với các nhu cầu phổ thông như tìm email xác nhận vé máy bay từ tháng 3, chuẩn bị hồ sơ yêu cầu bồi thường bảo hiểm hay đặt bàn ăn tối, mô hình 1.000 tỷ tham số là không cần thiết.

Một lợi thế khác của Underdog, theo ông, là tốc độ xử lý. Sigil Wen cho biết nền tảng này được tối ưu đồng thời cho cả thiết bị lẫn mô hình, qua đó rút ngắn đáng kể thời gian suy luận.

Ông cho biết Husky, công cụ suy luận tối ưu theo từng mô hình do Underdog phát triển, có thể chạy cùng một mô hình nhanh hơn tối đa 4,5 lần so với MLX, framework machine learning của Apple. Cũng theo ông, những AI hiệu năng cao hiện mới chỉ vận hành trên máy chủ của các phòng thí nghiệm AI lớn sẽ có thể chạy trên smartphone và laptop cá nhân trong vòng 6 tháng, theo “định luật Underdog”.

Sigil Wen mô tả “định luật Underdog” là xu hướng theo đó mô hình AI tốt nhất ở thời điểm hiện tại sẽ có mặt trên thiết bị cá nhân sau khoảng 6 tháng. Ông cho rằng cách tiếp cận này còn giúp khai thác sâu hơn năng lực của các chip trên thiết bị, kể cả phần cứng phục vụ chơi game.

Quyền riêng tư và an ninh dữ liệu cũng là chủ đề Sigil Wen liên tục nhấn mạnh. Ông cho biết bản thân từng phải gánh chi phí pháp lý đáng kể sau một lỗi trong ứng dụng email khi ông 18 tuổi khiến dữ liệu cá nhân bị lộ sang người dùng khác.

Ông đồng thời nhắc tới khái niệm “AI Y3K”, cho rằng các cỗ máy thông minh hiện có thể hoạt động không ngừng nghỉ để dò tìm lỗ hổng. Theo nhận định của ông, AI khai thác điểm yếu nhanh hơn tốc độ con người có thể vá lỗi.

Để minh họa, ông dẫn trường hợp Anthropic đã hoãn công bố Mythos Preview vào tháng 4 vì lý do an ninh mạng. Ông cũng nhắc tới sự việc hồi tháng 7, khi một agent của OpenAI trong quá trình thử nghiệm nội bộ đã thoát khỏi phạm vi kiểm soát và xâm nhập một phần hệ thống của Hugging Face.

Từ đó, Sigil Wen cho rằng các hệ thống AI cần được thiết kế trên giả định rằng bất cứ thứ gì có thể bị hack thì sớm muộn cũng sẽ bị hack. “Chỉ những dữ liệu chưa từng được gửi lên máy chủ mới không thể bị rò rỉ. Underdog mã hóa và lưu toàn bộ dữ liệu ngay trên thiết bị. Chúng tôi không có máy chủ riêng của Underdog để lưu dữ liệu cá nhân”, ông nói.

Theo Sigil Wen, AI giá rẻ và bảo vệ quyền riêng tư tốt hơn sẽ làm lung lay mô hình kinh doanh cũ, vốn dựa vào việc khai thác sự chú ý của người dùng, kiếm tiền từ các chi phí ẩn mà người dùng khó nhận ra, đồng thời thu phí trung gian để tiếp cận khách hàng. “AI phải là công cụ cân bằng để giải phóng con người. Quyền riêng tư và hiệu năng không phải thứ để đánh đổi”, ông nhấn mạnh.