TypesafeAI, startup do Diogo Almeida sáng lập, vừa giới thiệu Jev, mô hình AI đang thu hút sự chú ý trong giới công nghệ nhờ cách tiếp cận khác với các mô hình ngôn ngữ lớn hiện nay. Thay vì tạo ra câu trả lời bằng văn bản, Jev được thiết kế để đưa ra quyết định kèm xác suất, phục vụ các bài toán tự động hóa.

Sản phẩm mới của Almeida cũng được giới lập trình theo dõi sát, khi ông là một trong những người từng tham gia phát triển ChatGPT.

Theo Jaya Gupta, đối tác tại Foundation Capital, Jev có thể được xem là mô hình tách riêng phần ra quyết định. Khi nhận một bối cảnh phức tạp, một câu hỏi cụ thể và danh sách phương án trả lời, Jev sẽ chọn đáp án và đưa ra xác suất tương ứng, thay vì tạo thành một câu hoàn chỉnh.

Ông nhận định phần mềm thực chất cần các quyết định như có khẩn cấp hay không, nên tiếp tục hay dừng lại, cho phép hay chặn. Trong khi đó, nhiều mô hình ngôn ngữ hiện nay lại tạo ra văn bản trước, rồi mới chuyển ngược thành quyết định. Theo ông, nhiều tác vụ lặp lại bên trong agent không nhất thiết phải đi qua bước tạo câu chữ.

Xu hướng này cũng được đề cập trong loạt Tech Insight với bài viết “Unbundling của trí tuệ khổng lồ và kịch bản tham vọng”.

TypesafeAI đang định vị Jev như một phương án thay thế nhằm khắc phục hạn chế của các mô hình ngôn ngữ lớn (LLM) hiện nay.

Trước khi thành lập TypesafeAI, Almeida gắn bó với OpenAI trong 4 năm 6 tháng. Ông tham gia phát triển GPT-4, InstructGPT, ChatGPT và cả quá trình xây dựng phương pháp học tăng cường từ phản hồi của con người (RLHF).

Theo Almeida, thảo luận xung quanh AI hiện nay đang diễn ra theo hai hướng song song: một bên nhấn mạnh AI rất hiệu quả ở một số công việc, bên còn lại cho rằng công nghệ này lại kém hữu dụng ở nhiều việc khác.

Phát biểu tại một sự kiện gần đây, ông cho biết phần lớn các trường hợp thành công thường là những công việc hỗ trợ có con người can thiệp trong quy trình. Ngược lại, các trường hợp thất bại chủ yếu rơi vào các bài toán tự động hóa, nơi AI phải tự vận hành. Theo Almeida, tự động hóa nhìn qua có vẻ đơn giản hơn, nhưng thực tế lại khó hơn. Ông lấy dịch vụ khách hàng làm ví dụ điển hình.

Theo ông, đa số chatbot chăm sóc khách hàng hiện chưa thể trực tiếp thực thi hành động, mà chủ yếu dừng ở việc tra cứu tài liệu và hướng dẫn người dùng. Nguyên nhân là mô hình vẫn có thể đưa ra kết quả sai, nên chưa được trao quyền thực thi.

Almeida cũng cho rằng các agent viết mã hiện chủ yếu vẫn là công cụ hỗ trợ. Theo ông, mã nguồn gần với ngôn ngữ con người hơn là ngôn ngữ máy. Ông đặt vấn đề: nếu không có hệ thống quản lý phiên bản, liệu có thể tin tưởng một agent viết mã hay không.

Theo Almeida, một phần nguyên nhân nằm ở RLHF. Cách huấn luyện này tập trung vào việc khiến mô hình tạo ra những câu trả lời mà con người cảm thấy dễ chấp nhận hơn. Ông nói rằng khi đứng trước hai khả năng, mô hình được huấn luyện bằng RLHF thường nghiêng về phương án có vẻ an toàn hơn. Vì vậy, câu trả lời gần như luôn trông hợp lý, kể cả khi sai. Theo ông, khi độ chính xác tăng lên, LLM chưa chắc trở nên hữu dụng hơn, trong khi với machine learning truyền thống, độ chính xác càng cao thì hiệu quả thường tăng mạnh.

Ông cũng bác bỏ kỳ vọng cho rằng AI có thể đồng thời tối ưu cả các tác vụ có con người trong vòng lặp và tự động hóa hoàn toàn. Theo Almeida, khi hai mục tiêu này kéo mô hình theo hai hướng khác nhau, hiệu năng sẽ dao động thất thường, tạo ra thứ ông gọi là “trí tuệ gồ ghề”.

Almeida nhấn mạnh rằng nếu muốn tự động hóa một cách đáng tin cậy, độ chính xác phải đạt mức có hàng loạt chữ số 9.

Theo ông, TypesafeAI đang tập trung vào tự động hóa thay vì các tính năng hỗ trợ. Vì vậy, Jev có thể không phù hợp với những doanh nghiệp muốn triển khai các dịch vụ có con người tham gia trong quy trình. Almeida khuyến nghị doanh nghiệp không nên giao cho AI những công việc có quyết định rủi ro. Ông cũng lưu ý rằng trước khi cân nhắc dùng OpenClaw cho quy trình đưa người dùng mới lên hệ thống, doanh nghiệp cần xác định rõ liệu quy trình đó có yếu tố rủi ro hay không và đã có cơ chế bảo vệ để ngăn thiệt hại hay chưa.