Satya Nadella, CEO Microsoft, cảnh báo việc phụ thuộc quá nhiều vào trí tuệ nhân tạo có thể khiến doanh nghiệp dần đánh mất quyền kiểm soát đối với tri thức nội bộ và tài sản trí tuệ cốt lõi. Theo ông, khi AI ngày càng học nhiều hơn từ quá trình sử dụng của khách hàng, lợi thế thông tin có xu hướng dịch chuyển về phía nhà cung cấp mô hình.

Trên mạng xã hội X, Nadella viết rằng nếu quá trình huấn luyện mô hình AI chỉ diễn ra một chiều, giá trị kinh tế cuối cùng sẽ tập trung vào bên sở hữu hạ tầng huấn luyện, thay vì bên tạo ra tri thức thực sự. Ông cho rằng hạ tầng này cần được phân bổ cho nhiều doanh nghiệp, để mỗi bên có thể tự kiểm soát vòng lặp huấn luyện của mình.

Theo Nadella, các nhà cung cấp mô hình hiện được phép sử dụng dữ liệu công khai để huấn luyện AI. Tuy nhiên, ở chiều ngược lại, khách hàng lại bị hạn chế trong việc trích xuất và tái sử dụng chính dữ liệu của mình, tức hoạt động “chưng cất” mô hình.

Ông cho rằng dù đặt ra các giới hạn như vậy, nhà cung cấp vẫn tìm cách duy trì quyền tiếp tục huấn luyện mô hình từ dữ liệu phát sinh trong quá trình khách hàng sử dụng dịch vụ.

Trong bài viết, Nadella viện dẫn “nghịch lý thông tin” do nhà kinh tế học đoạt giải Nobel Kenneth Arrow nêu ra. Theo lập luận của Arrow, người mua thông tin không thể biết giá trị thật của nó trước khi kiểm chứng; nhưng một khi đã kiểm chứng xong, họ gần như đã nắm được thông tin mà không phải trả thêm gì. Về phía người bán, ngay từ thời điểm đưa thông tin ra thị trường, rủi ro bị mất quyền kiểm soát đã xuất hiện.

Nadella cho rằng trong kỷ nguyên AI, nghịch lý này đang bị đảo chiều. Theo ông, bên chịu rủi ro lớn hơn lại là bên mua, bởi để khai thác hiệu quả công cụ AI, doanh nghiệp buộc phải đưa vào hệ thống chính tri thức mà mình đang sở hữu.

“Doanh nghiệp thực chất đang trả giá hai lần khi dùng AI: một lần bằng tiền, và một lần bằng thứ còn giá trị hơn, đó là tri thức nội bộ được đưa vào để mô hình trở nên hữu ích hơn”, Nadella nói.

Ông nhận định theo thời gian, khoảng cách thông tin sẽ ngày càng nghiêng về một phía. Doanh nghiệp gần như không biết mô hình đã học được gì từ quá trình sử dụng, trong khi bên phát triển mô hình lại hiểu ngày càng nhiều hơn về khách hàng khi mức độ sử dụng tăng lên.

Nadella gọi hiện tượng này là “nghịch lý thông tin đảo chiều” (Reverse Information Paradox). Ông cũng cho rằng hệ thống bằng sáng chế trước đây đã phần nào giải quyết nghịch lý của Arrow, khi cho phép nhà phát minh công bố ý tưởng mà không phải “cho không” toàn bộ giá trị sáng tạo. Theo ông, kỷ nguyên AI cũng cần một cơ chế tương tự.

Điểm Nadella nhấn mạnh là bảo vệ dữ liệu thôi chưa đủ. Mô hình AI còn học từ các “dấu vết” mà người dùng để lại, gồm: prompt, các công cụ do agent sử dụng, và đặc biệt là quá trình con người sửa lỗi cho mô hình.

Ông cho biết mỗi lần nhân viên chỉnh lại một lỗi của AI, phần hiệu chỉnh đó sẽ tích lũy thành bí quyết riêng mà chỉ doanh nghiệp đó nắm giữ, và đối thủ không thể dễ dàng mua được bằng tiền. Nhưng với nhà cung cấp mô hình, từng dấu vết sử dụng, từng chỉnh sửa và từng lần đánh giá lại đều có thể trở thành nguồn học liệu bổ sung.

Theo Nadella, bản thân quá trình sử dụng AI cũng là quá trình tạo ra trí tuệ mới, vì vậy thành quả hình thành trong quá trình đó phải thuộc về doanh nghiệp.

Ông cũng dẫn lại phát biểu của Alex Karp, CEO Palantir. Trước đó trên X, Karp cho rằng điều khách hàng công nghệ thực sự muốn là quyền kiểm soát đối với năng lực tính toán riêng, mô hình, data stack và alpha, nhằm bảo đảm họ không giao “tư liệu sản xuất” cho người khác.

Nadella nhận định cấu trúc hiện tại đang tạo ra đúng bối cảnh mà Karp lo ngại. Theo ông, nếu doanh nghiệp muốn đồng thời phát triển vốn con người và “vốn token”, thị trường cần một ranh giới tin cậy đủ rõ ràng.

Ông cho rằng cần có một không gian riêng để tập trung và quản trị an toàn dữ liệu tổ chức, lịch sử hội thoại, kết quả đánh giá, trọng số mô hình đã được tinh chỉnh và bộ nhớ tích lũy, đồng thời cho phép các thành phần này được cải tiến liên tục.

Nadella mô tả đó phải là “một ranh giới cứng, không gì được phép đi qua nếu không có sự đồng ý”. Ông cũng dự báo về lâu dài, doanh nghiệp sẽ yêu cầu quyền sử dụng đầu ra của mô hình để tiếp tục tinh chỉnh hoặc huấn luyện các mô hình riêng của mình.