Andreessen Horowitz vừa công bố một số xu hướng đáng chú ý của thị trường AI, trong đó dữ liệu từ OpenRouter cho thấy AI agent đang tiêu thụ token nhiều gấp gần 5 lần so với người dùng. Cùng với đó, lĩnh vực pháp lý nổi lên như một điểm tăng trưởng mới của AI.

Theo dữ liệu mới nhất của OpenRouter, nền tảng cho phép truy cập nhiều mô hình AI, lượng token do AI agent sử dụng đã tăng khoảng 14 lần kể từ tháng 2. Mức tiêu thụ này hiện cao hơn gần 5 lần so với người dùng.

Cách sử dụng token của AI agent cũng khác đáng kể so với người dùng thông thường. Thay vì chủ yếu tương tác theo kiểu hỏi - đáp, AI agent được thiết kế để lặp lại quy trình, thử nhiều bước và tự hoàn thành mục tiêu, qua đó đẩy mạnh khối lượng token tiêu thụ.

Andreessen Horowitz cho biết phần lớn khác biệt đến từ cached token. Đây là cơ chế cho phép mô hình tái sử dụng những nội dung đã xử lý trước đó thay vì phải tính toán lại từ đầu.

Theo hãng đầu tư này, hơn 85% lượng token mà AI agent xử lý dựa trên cached token, và phần lớn tăng trưởng token gần đây cũng đến từ nhóm cached token.

Cơ chế vận hành thường bắt đầu khi người dùng nhập vào các thông tin cần thiết cho công việc, chẳng hạn chính sách nội bộ, quy trình hoặc hướng dẫn lập trình. Sau đó, AI agent sẽ triển khai từng bước, tiếp tục đọc thêm dữ liệu mới, tạo đầu ra và liên tục tích lũy nội dung vào bộ nhớ đệm để tái sử dụng.

Andreessen Horowitz đánh giá cached token có chi phí thấp hơn nhiều so với token đầu vào ban đầu, qua đó giúp giảm chi phí vận hành AI agent. Tuy nhiên, để duy trì lượng dữ liệu lưu trong bộ nhớ đệm, hệ thống phải cần tới dung lượng bộ nhớ lớn hơn.

Đây cũng là lý do nhu cầu với bộ nhớ băng thông cao HBM tăng mạnh. Khi số lượng AI agent có khả năng “ghi nhớ” và tái sử dụng ngữ cảnh công việc ngày càng nhiều, nhu cầu bộ nhớ của hạ tầng AI cũng tiếp tục đi lên, dù thị trường này vẫn còn ở giai đoạn đầu.

Andreessen Horowitz đồng thời lưu ý sự phổ biến của AI agent có thể gây sức ép lên các công cụ tự động hóa và quản lý quy trình công việc truyền thống. Trích dữ liệu Similarweb, hãng cho biết ngoại trừ Gumloop, lưu lượng truy cập vào các website cung cấp công cụ tự động hóa đang giảm liên tục.

N8N, Zapier và Make đều ra đời trước khi làn sóng mô hình ngôn ngữ lớn bùng nổ. Dù vẫn dẫn đầu thị trường tự động hóa nếu xét theo lượng truy cập, số lượt ghé thăm các dịch vụ này đã giảm ở mức hai chữ số trong 12 tuần gần đây. Trái lại, Gumloop, nền tảng xây dựng AI agent theo hướng AI-native ra mắt năm 2023, là dịch vụ duy nhất ghi nhận tăng trưởng.

Một điểm khác được Andreessen Horowitz nhấn mạnh là khoảng cách sử dụng AI giữa người dùng phổ thông và nhóm người dùng chuyên sâu đang ngày càng nới rộng.

Theo hãng này, một số doanh nghiệp đang gia tăng mức sử dụng AI với tốc độ vượt xa mặt bằng chung. Dữ liệu gần đây của OpenAI cũng phản ánh xu hướng tương tự: trong khi lượng token đầu ra của nhóm doanh nghiệp phổ thông chỉ tăng khoảng 2 lần, mức sử dụng của nhóm 10% doanh nghiệp hàng đầu tăng mạnh hơn đáng kể.

Andreessen Horowitz cũng đánh giá lĩnh vực pháp lý, chỉ sau mảng lập trình, đang trở thành một trong những động lực tăng trưởng nổi bật nhất của AI. Ngay cả trong nhóm công cụ AI phục vụ lập trình, đà mở rộng từ khối người dùng pháp lý cũng đặc biệt rõ nét.

Cụ thể, mức độ sử dụng Codex trong giới pháp lý đã tăng 108 lần kể từ tháng 2/2026. Andreessen Horowitz cho rằng còn quá sớm để kết luận xu hướng này hoàn toàn đến từ việc Codex được phổ biến rộng rãi, nhưng sự thay đổi trong khối công việc pháp lý hiện nổi bật hơn hẳn nhiều lĩnh vực khác.

Diễn biến từ các tập đoàn công nghệ lớn cũng cho thấy thị trường AI pháp lý đang tăng tốc. Anthropic ra mắt Claude for Legal vào tháng 5, chính thức gia nhập mảng này. Gần đây, Google cũng công bố Gemini Enterprise dành riêng cho lĩnh vực pháp lý, hướng tới các hãng luật và đội ngũ pháp chế nội bộ.