Alibaba vừa công bố Qwen3.8-27B, mô hình AI đa phương thức mã nguồn mở được định vị cho nhu cầu chạy cục bộ trên các thiết bị như MacBook Pro cấu hình cao hoặc Mac Studio. Sau khi trải nghiệm thực tế, Simon Willison nhận xét mô hình này có năng lực ấn tượng, nhưng cấu hình suy luận mặc định lại khiến thời gian phản hồi bị kéo dài đáng kể.

Theo benchmark nội bộ do Alibaba công bố, Qwen3.8-27B cho hiệu năng ở mức tương đương Anthropic Opus 4.6 Max.

Qwen3.8-27B sở hữu 27 tỷ tham số. Điểm đáng chú ý của mô hình là quy mô không quá lớn, đủ để chạy trên một số thiết bị cá nhân hiệu năng cao. Mô hình cũng hỗ trợ xử lý hình ảnh và được phát hành theo dạng mã nguồn mở, cho phép sử dụng miễn phí.

Simon Willison, nhà phát triển công cụ khám phá dữ liệu Datasette và đồng phát triển framework web Python Django, đã trực tiếp thử nghiệm Qwen3.8-27B và chia sẻ đánh giá.

Theo Simon Willison, điểm mạnh của Qwen3.8-27B nằm ở năng lực xử lý tổng thể. Tuy nhiên, điểm gây bất tiện lại đến từ cấu hình mặc định. Trước khi trả lời, mô hình thực hiện một bước suy luận nội bộ và chế độ này mặc định được đặt ở mức “xhigh”, tức suy luận sâu. Vì vậy, ngay cả với các yêu cầu đơn giản, thời gian phản hồi vẫn bị kéo dài.

Simon Willison cho biết khi yêu cầu mô hình tạo hình ảnh “một con bồ nông đi xe đạp”, Qwen3.8-27B đã mất 21 phút suy luận trước khi tạo ra kết quả. Hình ảnh đầu ra được ông đánh giá là khá tinh xảo, với các chi tiết từ khung xe đến chân con bồ nông đều được thể hiện hợp lý, nhưng thời gian chờ 21 phút là quá lâu.

Khi tắt chế độ suy luận sâu và thực hiện lại cùng yêu cầu, mô hình trả kết quả sau hơn 2 phút. Đổi lại, chất lượng hình ảnh giảm xuống.

Simon Willison cũng thử bài kiểm tra định vị vật thể trong ảnh. Khi đưa vào ảnh con bồ nông và yêu cầu mô hình trả về tọa độ vị trí của vật thể, Qwen3.8-27B xác định chính xác.

Ngoài ra, ông còn yêu cầu mô hình viết một công cụ để kiểm chứng kết quả. Dù không được yêu cầu, mô hình tự bổ sung thêm cả tính năng minh họa bằng ảnh ví dụ.

Ở mảng lập trình, Simon Willison cho rằng Qwen3.8-27B cũng thể hiện tốt như coding agent, có thể viết mã và chỉnh sửa trực tiếp file nguồn. Khi được cung cấp một thư mục dự án thực tế và yêu cầu giải thích cơ chế hoạt động của tính năng đăng nhập, mô hình tự tìm, đọc nhiều file liên quan rồi đưa ra câu trả lời chính xác.

Dù vậy, tốc độ vẫn là hạn chế lớn nhất. Theo Simon Willison, ngay cả khi chạy trên laptop hiệu năng cao và phần cứng chuyên dụng, mô hình vẫn phản hồi chậm, đặc biệt khi bật chế độ suy luận sâu.

Ông cho biết điểm tích cực là chỉ sau hai ngày phát hành, cộng đồng lập trình viên đã tìm ra cách cải thiện tốc độ lên hơn 70%.

Tổng kết lại, Simon Willison nói việc một tệp dung lượng 17 GB có thể xử lý được chừng đó tác vụ là điều đáng kinh ngạc. Theo ông, chỉ một năm trước, năng lực như vậy còn chủ yếu xuất hiện ở các hệ thống AI thương mại đắt đỏ, trong khi nay đã có thể chạy trên laptop.

Simon Willison nhận định rằng nếu giảm mức suy luận mặc định, Qwen3.8-27B có thể trở thành một trong những mô hình AI chạy cục bộ tốt nhất hiện nay.