Logo của Cloudflare. Ảnh: Cloudflare

Cloudflare ngày 19/10 (giờ địa phương) công bố trên blog chính thức bản xem trước của Cleric, mô hình AI được thiết kế để trích xuất thông tin từ tài liệu và hình ảnh với tốc độ cao, chi phí thấp.

Theo Cloudflare, Cleric được triển khai trên nền tảng Workers AI của hãng. Công ty cũng cho biết sẽ sớm phát hành mô hình này theo dạng open-weights để người dùng có thể tải về và sử dụng.

Cleric được Cloudflare xếp vào nhóm mô hình “System One”. Khái niệm này xuất phát từ cuốn “Thinking, Fast and Slow” của Daniel Kahneman, dùng để chỉ kiểu phán đoán nhanh và chính xác. Trong khi đó, các mô hình ngôn ngữ lớn (LLM) chuyên suy luận sâu và tạo văn bản được xếp vào nhóm “System Two”.

Mô hình mới có thể trích xuất tên, ngày tháng, số tiền và nhiều trường dữ liệu khác từ dữ liệu phi cấu trúc như email hoặc ảnh hóa đơn. Cleric cũng có thể thực hiện phép tính hoặc ước tính một số giá trị không xuất hiện trực tiếp trong dữ liệu, đồng thời dự báo các con số có thể phát sinh trong tương lai.

Không giống LLM tạo văn bản theo từng token, Cleric trả kết quả trong một lần xử lý. Cloudflare cho biết chi phí chỉ được tính theo dữ liệu đầu vào, còn thời gian phản hồi trong đa số trường hợp là dưới 1 giây. Khi không tìm được đáp án, mô hình sẽ trả về “không có” thay vì tự suy diễn câu trả lời, đồng thời cung cấp điểm tin cậy cho từng kết quả.

Cloudflare lấy ví dụ về một email khiếu nại của khách hàng có ghi giá sản phẩm 649 USD và thuế 52,1 USD. Trong trường hợp này, Cleric có thể cộng hai khoản để đưa ra tổng số tiền thanh toán là 701,1 USD. Mô hình cũng có thể tính số ngày đã trôi qua bằng cách so sánh ngày giao hàng với ngày viết email.

Công ty cho biết đã thử nghiệm một cách tiếp cận trong đó mô hình đánh giá Cleric nhận các giá trị do Cleric trích xuất để đưa ra quyết định, trước khi LLM soạn thư phản hồi. Theo Cloudflare, cách làm này nhanh hơn 3,2 lần và giúp giảm 49% chi phí so với phương án giao toàn bộ quy trình cho LLM GLM-5.3.

Dù vậy, Cloudflare cũng thừa nhận Cleric hiện vẫn yếu ở các phép tính nhiều bước. Công ty cho biết mô hình chưa ước tính tốt các giá trị còn thiếu khi dữ liệu đầu vào chưa đủ cơ sở, còn khả năng dự báo chuỗi thời gian mới dừng ở mức cơ bản.

Từ khóa

#Cloudflare #Cleric #Workers AI #LLM #AI
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.