Các mô hình AI ngoài LLM đang nổi lên mạnh mẽ khi doanh nghiệp công nghệ đẩy nhanh cuộc đua ở những hướng đi mới như dự báo trên dữ liệu dạng bảng, ra quyết định và tối ưu thực thi mã.

Ngày 22/10, giới quan sát cho biết ngày càng nhiều công ty AI chọn cạnh tranh bằng các mô hình không tập trung vào sinh văn bản như LLM. Nổi bật trong số này là TFM (Tabular Foundation Model) chuyên dự báo trên dữ liệu có cấu trúc dạng bảng, các mô hình chuyên ra quyết định thay vì tạo văn bản, và CEM (Code Execution Model) có khả năng tự vận hành trong chương trình đang hoạt động để tối ưu hiệu năng mà không cần con người can thiệp trực tiếp.

TFM được xem là công cụ phù hợp cho doanh nghiệp khi cho phép đưa ra dự báo dựa trên dữ liệu dạng bảng gồm hàng và cột, chẳng hạn hồ sơ doanh thu, lịch sử giao dịch hay thông tin khách hàng.

Gartner đã đưa “Large Quantitative Models” (LQM) vào nhóm từ khóa công nghệ đáng chú ý của thị trường năm 2027. Theo hãng nghiên cứu này, LQM là kiến trúc mạng nơ-ron lai theo dạng module, được thiết kế để xử lý và phân tích dữ liệu định lượng, từ đó hỗ trợ ra quyết định dựa trên mô phỏng chủ động thay vì chỉ phản ứng sau khi sự việc xảy ra.

Thị trường TFM hiện đã thu hút cả doanh nghiệp lớn lẫn startup. SAP đã mua lại Pryor Labs, công ty chuyên về TFM. Trong khi đó, Nvidia gần đây công bố Kumo Tabular, một mô hình nền tảng mở phục vụ dự báo trên dữ liệu dạng bảng, thông qua nền tảng chia sẻ mô hình AI mã nguồn mở Hugging Face.

Kumo Tabular được cho là phát triển dựa trên công nghệ của Kumo AI, startup phần mềm AI dự báo cho doanh nghiệp mà Nvidia đã mua lại vào tháng 6. Kumo AI xây dựng mô hình có thể trả lời các câu hỏi mang tính dự báo dựa trên dữ liệu có cấu trúc của doanh nghiệp, như dữ liệu khách hàng hoặc thông tin thanh toán. Tại Hàn Quốc, Nums AI cũng đang đẩy nhanh chiến lược tiếp cận thị trường sau khi giới thiệu mô hình nội bộ LFM mang tên Causilo.

Bên cạnh TFM, nhóm mô hình AI chuyên ra quyết định cũng nổi lên nhanh trong khoảng một tháng trở lại đây. Khác với LLM vốn tập trung sinh văn bản, các mô hình này tối ưu cho việc đưa ra phán đoán dựa trên xác suất.

Sau khi TypeSafeAI, startup do cựu nhân sự OpenAI Diogo Almeida sáng lập, công bố jev vào tháng 9, nhiều tên tuổi lớn như OpenAI, Amazon Web Services (AWS) và Cloudflare cũng tham gia cuộc đua phát triển các mô hình ra quyết định tương tự.

Theo TypeSafeAI, jev có thể đưa ra quyết định cùng xác suất tương ứng thay vì tạo câu văn, khi được cung cấp các tình huống phức tạp, câu hỏi có phạm vi hẹp và danh sách phương án trả lời. Công ty đánh giá đây sẽ là mô hình phù hợp cho các AI agent.

Số doanh nghiệp tham gia lĩnh vực này tiếp tục tăng. Microsoft cũng đã công bố Microsoft-Decision-1, mô hình AI được tối ưu cho các tác vụ ra quyết định nhanh.

Trong khi đó, Cloudflare đã phát hành bản preview của Cleric, một mô hình AI có thể trích xuất thông tin từ tài liệu hoặc hình ảnh với tốc độ cao và chi phí thấp khi kết hợp cùng mô hình ra quyết định Clef.

Theo giới thiệu của Cloudflare, Cleric có thể rút trích các trường dữ liệu như tên, ngày tháng, số tiền từ nguồn dữ liệu phi cấu trúc như email hoặc ảnh hóa đơn. Mô hình này cũng có thể tính toán hoặc ước lượng những giá trị không xuất hiện trực tiếp trong tài liệu, đồng thời dự báo các con số có thể phát sinh trong tương lai.

Thay vì tạo văn bản theo từng token như LLM, hệ thống trả lời một lần cho mỗi truy vấn. Cloudflare cho biết dịch vụ chỉ tính phí theo dữ liệu đầu vào và phần lớn phản hồi được trả về trong vòng 1 giây. Khi không tìm được đáp án, hệ thống sẽ hiển thị “không có” thay vì tự suy diễn thông tin, đồng thời cung cấp điểm tin cậy cho từng câu trả lời.

Một hướng đi khác cũng đang thu hút chú ý là CEM do startup Israel DoubleAI, doanh nghiệp có Nvidia rót vốn, giới thiệu. DoubleAI nhấn mạnh CEM là một danh mục AI hoàn toàn mới.

Theo The Wall Street Journal, khác với LLM, CEM có thể tự vận hành trong chương trình đang hoạt động mà không cần con người can thiệp, đồng thời chủ động tìm cách cải thiện hiệu quả thực thi mã. Sản phẩm đầu tiên của DoubleAI là Maxwell, được thiết kế để xử lý bài toán chi phí tính toán tăng vọt bằng cách nâng hiệu năng GPU và CPU.

Cơ chế thu phí của DoubleAI cũng được đánh giá là đáng chú ý. Công ty tính phí dựa trên một phần khoản chi phí mà khách hàng tiết kiệm được. Theo DoubleAI, một khách hàng giai đoạn đầu đã cắt giảm 67% chi phí tính toán. WSJ cũng cho biết công ty AI LTX đã tăng gấp đôi tốc độ suy luận mô hình nhờ Maxwell.

DoubleAI do CEO Amnon Shashua, đồng sáng lập Mobileye, thành lập. Công ty đã huy động tổng cộng 220 triệu USD từ Lightspeed Venture Partners, Bessemer Venture Partners, Nvidia, Dell và các nhà đầu tư khác.