Bill Gurley, một nhà đầu tư mạo hiểm nổi tiếng tại Thung lũng Silicon, đã công khai chỉ trích triết lý phát triển của Anthropic, cho rằng công ty này không đơn thuần xây dựng AI hiệu năng cao mà đang theo đuổi mục tiêu tạo ra một “thực thể vượt con người”. Phát biểu này làm tranh cãi quanh Anthropic thêm gay gắt, nhất là khi startup AI này vừa khởi động lộ trình IPO.

Theo Business Insider ngày 1/6 (giờ địa phương), Gurley đã nêu quan điểm trên trong lần xuất hiện gần đây trên podcast “All-In”, tập trung vào chiến lược an toàn AI và tầm nhìn dài hạn của Anthropic.

Gurley cho biết sau một tháng rà soát kỹ các tài liệu liên quan đến Anthropic, cách nhìn của ông về công ty này “đã thay đổi hoàn toàn”. Theo ông, một số người liên quan đến Anthropic dường như tin rằng trách nhiệm của họ là tạo ra một “loài” vượt trội hơn con người và còn tỏ ra hào hứng với viễn cảnh đó.

Ông nói Anthropic “không chỉ đang viết phần mềm, mà đang tạo ra một vị thần”, đồng thời gọi cách tiếp cận này là “Frankenstein Theory”.

Điểm đáng chú ý là phát biểu của Gurley không dừng ở tranh luận quen thuộc về quy định. Trước đó, Anthropic nhiều lần bị chỉ trích vì thúc đẩy các quy định an toàn AI nghiêm ngặt, điều mà một số ý kiến trong ngành cho rằng có thể khiến đối thủ mới khó gia nhập thị trường hơn.

Tuy nhiên, theo Gurley, vấn đề cốt lõi nằm ở triết lý phát triển sâu xa hơn cả câu chuyện vận động chính sách. Ông cho rằng bên trong Anthropic tồn tại cách nhìn khá tích cực về một tương lai trong đó AI mạnh hơn con người sẽ đóng vai trò trung tâm trong vận hành xã hội và nền kinh tế.

Để minh họa, Gurley nhắc đến bài tiểu luận “Machines of Loving Grace” do đồng sáng lập kiêm CEO Dario Amodei công bố năm ngoái. Trong bài viết này, Amodei đưa ra nhiều kịch bản về cách kinh tế và xã hội có thể thay đổi khi AI siêu mạnh xuất hiện.

Gurley đặc biệt chú ý đến đoạn mô tả một cấu trúc kinh tế nơi AI phân bổ nguồn lực. Theo ông, đây là một giả định mang màu sắc của “thực thể thần thánh”, khi AI quyết định con người sẽ được cung cấp gì và được “thưởng” như thế nào.

Anthropic hiện chưa đưa ra phản hồi chính thức về các phát biểu nói trên. Dù vậy, công ty từ lâu vẫn nhấn mạnh rằng an toàn AI là ưu tiên hàng đầu.

Trong cuộc phỏng vấn với chương trình “60 Minutes” của CBS năm ngoái, Dario Amodei nói ông cảm thấy “vô cùng không thoải mái” với việc các công ty AI tự giám sát chính mình, đồng thời kêu gọi xây dựng cơ chế quản lý có trách nhiệm hơn.

Ở một cuộc phỏng vấn khác hồi đầu năm nay, Amodei cho biết vì lo ngại về an toàn, Anthropic từng trì hoãn việc ra mắt mô hình “Claude” trước khi ChatGPT xuất hiện vào năm 2022. Theo ông, công ty chấp nhận bỏ lỡ cơ hội chiếm lĩnh thị trường AI tiêu dùng để đặt yếu tố an toàn lên trước.

Trên thực tế, gần đây Anthropic cũng đã trì hoãn công bố một số mô hình với cùng lý do. Công ty từng hoãn ra mắt “Claude Mythos” do lo ngại mô hình này có thể làm gia tăng nguy cơ khai thác lỗ hổng an ninh mạng trên diện rộng. Tuy nhiên, tuần trước, Anthropic cho biết dự kiến sẽ cung cấp mô hình này cho khách hàng trong vài tuần tới.

Tranh cãi về chính sách của Anthropic cũng chưa có dấu hiệu hạ nhiệt. David Sacks, người phụ trách chính sách AI và tiền mã hóa trong chính quyền Trump, gần đây cho rằng nếu Anthropic tự định vị là “công ty AI an toàn” và mô tả các đối thủ là rủi ro hơn, cách tiếp cận đó có thể giúp công ty mở rộng ảnh hưởng theo hướng mang tính độc quyền.

Jason Calacanis, đồng dẫn podcast “All-In”, cũng đưa ra nhận định tương tự. Theo ông, bên trong Anthropic “dường như có một bầu không khí cho rằng họ có thể tạo ra một vị thần”.

Ồn ào càng thu hút chú ý khi xuất hiện đúng thời điểm Anthropic thúc đẩy kế hoạch niêm yết. Ngày 1/6, công ty thông báo đã nộp dự thảo hồ sơ S-1 theo chế độ bảo mật lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), chính thức khởi động quy trình IPO.

Giới quan sát nhận định nếu thương vụ diễn ra, đây có thể là một trong những đợt IPO lớn nhất của ngành AI trong vài năm gần đây. Việc các tranh luận về an toàn AI, triết lý AGI, chính sách công bố mô hình và kế hoạch niêm yết cùng lúc hội tụ được cho là sẽ khiến quá trình thẩm định đối với Anthropic trở nên căng thẳng hơn trong thời gian tới.