Startup AI pháp lý Harvey vừa công bố Tenet, mô hình ngôn ngữ lớn đầu tiên do công ty tự phát triển, trong nỗ lực giảm lệ thuộc vào các mô hình bên ngoài, kiểm soát chi phí và tăng quyền chủ động về sản phẩm lẫn chiến lược kinh doanh.

Theo Business Insider ngày 18/8 (giờ địa phương), sau khi mở rộng mảng phần mềm pháp lý và đạt mức định giá 11 tỷ USD nhờ tận dụng các mô hình từ OpenAI và Anthropic, Harvey đang chuyển sang tự xây nền tảng AI riêng cho các nghiệp vụ pháp lý.

Công ty cho biết Tenet được phát triển để giúp luật sư xử lý những công việc vốn mất từ vài giờ đến vài ngày với chi phí thấp hơn. Trước đó, Harvey vận hành dịch vụ bằng cách kết hợp nhiều mô hình bên ngoài, đồng nghĩa mỗi lần khách hàng sử dụng hệ thống, công ty lại phát sinh thêm chi phí trả cho nhà cung cấp. Khi mức sử dụng tăng, chi phí cũng tăng nhanh theo.

Nếu mô hình nội bộ đạt hiệu năng đủ tốt, Harvey có thể chuyển thêm nhiều tác vụ sang hạ tầng do chính mình kiểm soát, từ đó cắt giảm chi phí sử dụng mô hình bên ngoài. Theo cách này, công ty có thể cải thiện biên lợi nhuận mà không nhất thiết phải tăng giá với khách hàng.

Động thái của Harvey diễn ra trong bối cảnh các công ty AI lớn đang đẩy mạnh hiện diện ở thị trường pháp lý. Anthropic đã tiếp cận nhóm khách hàng là luật sư bằng các plugin phục vụ rà soát tài liệu và soạn thảo bản nháp. OpenAI cũng tuyển Jason Boehmig, nhà sáng lập Ironclad, để mở rộng hoạt động trong lĩnh vực này.

Giới quan sát cũng nhắc đến khả năng Google và Meta tham gia sâu hơn vào mảng AI pháp lý. Xu hướng đó đặt ra thách thức cho Harvey: các nhà cung cấp mô hình từng hỗ trợ công ty hoàn toàn có thể trở thành đối thủ trực tiếp trong việc giành khách hàng. Việc sở hữu mô hình riêng vì thế được xem là cách để Harvey kiểm soát tốt hơn chi phí và định hướng kinh doanh.

Gabe Pereyra, đồng sáng lập Harvey, cho biết quyết định phát triển mô hình riêng xuất phát từ cả hai yếu tố: chi phí và chất lượng. Ông đồng sáng lập công ty cùng Winston Weinberg, cựu nghiên cứu viên của Google DeepMind.

Theo Gabe Pereyra, Harvey vẫn sẽ phân bổ tác vụ cho nhiều mô hình khác nhau tùy theo tính chất công việc, và Tenet sẽ trở thành một lựa chọn mới trong hệ sinh thái đó. Ông cho biết mô hình này được tinh chỉnh tập trung vào những nhiệm vụ mà khách hàng thực sự coi trọng.

Harvey cũng đầu tư mạnh vào việc tự xây dựng dữ liệu suy luận pháp lý. Theo công ty, nếu muốn mô hình học được cách tư duy của luật sư, trước hết phải có bộ dữ liệu phản ánh đúng kiểu lập luận đó. Vì vậy, Harvey thuê cả luật sư toàn thời gian lẫn cộng tác viên để thiết kế các tình huống tranh chấp giả định, hồ sơ vụ việc và đánh giá năng lực suy luận của mô hình. Nguồn nhân lực hợp đồng được huy động thông qua các đơn vị như Mercor và Snorkel.

Từ bộ dữ liệu thu thập được, Harvey huấn luyện Tenet trên nền Kimi K3, mô hình mã nguồn mở chi phí thấp của startup Trung Quốc Moonshot. Kể từ khi ra mắt vào tháng 7, Kimi K3 thu hút sự chú ý nhờ hiệu năng cao và giá thành cạnh tranh. Harvey sau đó tiếp tục tinh chỉnh mô hình này bằng dữ liệu pháp lý do chính công ty tạo ra để phù hợp hơn với các tác vụ chuyên môn.

Tenet là một phần trong đợt nâng cấp sản phẩm mà Harvey gọi là Harvey 2. Anique Drumright, Giám đốc sản phẩm của Harvey, cho biết công ty cũng đã bổ sung tính năng bộ nhớ mới, cho phép người dùng lưu lại cách làm việc và sở thích để các agent có thể duy trì chỉ dẫn đó xuyên suốt nhiều nhiệm vụ.

Harvey cho biết sẽ sớm công bố kết quả nghiên cứu so sánh hiệu năng xử lý công việc pháp lý giữa Tenet và các mô hình khác. Dù vậy, công ty cũng lưu ý rằng các bài benchmark do chính nhà phát triển thực hiện cần được diễn giải thận trọng, bởi mô hình thường được huấn luyện lại dựa trên các điểm yếu phát hiện từ bài test để nâng điểm số.

Hiện Tenet chưa được triển khai trong dịch vụ thực tế của Harvey và công ty cũng chưa công bố thời điểm áp dụng cụ thể. Gabe Pereyra không tiết lộ tên các hãng luật đang tham gia thử nghiệm, nhưng cho biết mục tiêu dài hạn là biến Tenet thành nền tảng để từng hãng luật có thể huấn luyện mô hình riêng.

Theo ông, sau mỗi vụ việc, luật sư thường tích lũy thêm kinh nghiệm mới, chẳng hạn cách đàm phán một điều khoản khó hoặc dự đoán phản ứng của bên mua trước một điều kiện cụ thể. Tuy nhiên, phần lớn kinh nghiệm đó hoặc chỉ nằm trong đầu từng cá nhân, hoặc bị vùi trong các tài liệu cũ.

Gabe Pereyra cho rằng các mô hình được huấn luyện ngay trong nội bộ hãng luật có thể khai thác phần kinh nghiệm tích lũy này, biến hàng chục năm chuyên môn thành nền tảng để xây dựng các agent có khả năng thay mặt con người xử lý những công việc cụ thể.

Theo tính toán của Harvey, các hãng luật sẽ không tự xây mô hình từ đầu. Thay vào đó, công ty muốn cung cấp Tenet như một điểm khởi đầu, rồi để mỗi tổ chức tiếp tục huấn luyện phiên bản riêng theo phong cách làm việc của đội ngũ luật sư của mình.

Nếu đi theo hướng này, Harvey có thể dần rời khỏi vai trò một nhà cung cấp phần mềm đơn thuần để tiến gần hơn tới mô hình của nhóm Big4 trong lĩnh vực kiểm toán - tư vấn: không chỉ bán công nghệ, mà còn đóng gói giải pháp theo đặc thù vận hành của từng khách hàng.

Điều đó cũng có thể tạo ra một nghịch lý với chính Harvey, công ty từng bị xem là một “wrapper của ChatGPT”. Nếu kế hoạch thành công, lớp giá trị từng bị coi là vỏ bọc bên ngoài cho mô hình của bên thứ ba có thể lại trở thành phần có giá trị nhất trong toàn bộ cấu trúc kinh doanh của công ty.