TechCrunch ngày 18/9 (giờ địa phương) cho biết Typesafe AI, công ty do cựu nhà nghiên cứu OpenAI Diogo Almeida sáng lập, vừa công bố Jev, một mô hình AI có đầu ra là xác suất thay vì văn bản. Cách tiếp cận này đang thu hút sự quan tâm của cộng đồng nhà phát triển.

Theo giới thiệu, Jev được xây dựng trên kiến trúc Transformer nhưng không phải là mô hình ngôn ngữ lớn (LLM). Thay vì sinh câu chữ như các chatbot phổ biến, mô hình này trả về các giá trị xác suất mà công ty gọi là “các quyết định đã được hiệu chỉnh” (calibrated decisions).

Almeida từng tham gia phát triển ChatGPT và công nghệ học tăng cường từ phản hồi của con người (RLHF) tại OpenAI. Ông cho rằng các hệ thống AI hiện nay đang được tối ưu quá nhiều cho ngôn ngữ tự nhiên, từ đó bộc lộ những giới hạn khi đưa vào các tác vụ tự động hóa. Hai năm trước, ông rời OpenAI để thành lập Typesafe AI.

Typesafe AI cho biết Jev vận hành theo cấu trúc cho phép người dùng xác định trước tập giá trị đầu ra. Theo công ty, cách làm này giúp tránh hiện tượng ảo giác, đồng thời mang lại lợi thế về chi phí và tốc độ xử lý.

Về mô hình tính phí, Typesafe AI cho biết token đầu ra được miễn phí, trong khi token đầu vào được tính theo đơn vị 1 tỷ token thay vì 1 triệu token.

Công ty cho biết nhu cầu ban đầu đối với Jev khá tích cực. Có thời điểm lượng người dùng tăng mạnh đến mức dịch vụ API gần như không đáp ứng kịp. Theo TechCrunch, các nhà phát triển hiện ưu tiên thử nghiệm Jev trong những bài toán tự động hóa phần mềm.