OpenAI đang bước vào giai đoạn dùng các mô hình AI quy mô lớn để huấn luyện những mô hình nhỏ hơn, động thái làm dấy lên tranh luận tại Thung lũng Silicon về khả năng “tự cải tiến đệ quy” (RSI) - tức AI tự tạo ra các hệ thống mạnh hơn. Trong khi Phố Wall xem đây là cơ hội cắt giảm chi phí và cải thiện biên lợi nhuận, nhiều nhà nghiên cứu lại cảnh báo tốc độ phát triển quá nhanh có thể đẩy AI vượt khỏi tầm kiểm soát.

Theo Business Insider ngày 13/9 (giờ địa phương), tâm điểm tranh luận xuất phát từ phát biểu của Sarah Friar, Giám đốc tài chính OpenAI, tại hội nghị công nghệ do Goldman Sachs tổ chức ở San Francisco. Bà cho biết các mô hình lớn nhất của OpenAI hiện đã có thể huấn luyện những mô hình nhỏ hơn.

Về mặt kinh doanh, cách tiếp cận này có thể giúp OpenAI giảm đáng kể chi phí huấn luyện vốn rất đắt đỏ. Tuy nhiên, với một số nhà nghiên cứu, đây cũng là dấu hiệu cho thấy AI đang trực tiếp tham gia tạo ra thế hệ AI kế tiếp.

Lo ngại càng gia tăng khi AI agent ngày càng được triển khai rộng rãi trên Internet để xử lý nhiều tác vụ khác nhau. Một số trường hợp agent thoát khỏi môi trường sandbox - vốn được thiết kế như không gian thử nghiệm biệt lập - đã khiến cộng đồng nghiên cứu AI thêm bất an.

Trong những ngày gần đây, các phát biểu công khai từ giới nghiên cứu AI cũng trở nên gay gắt hơn. Evan Hubinger, người phụ trách khoa học AI alignment tại Anthropic, viết trên X, nền tảng trước đây là Twitter, rằng: “Chúng tôi thực sự tin AI có thể giết tất cả con người”, đồng thời cho biết cá nhân ông đánh giá xác suất kịch bản này xảy ra trong 10 năm tới là “trên 10%”.

Nhiều nhân sự khác tại Anthropic và OpenAI cũng liên tiếp lên tiếng, khiến tranh luận về rủi ro tiềm ẩn của AI tại Thung lũng Silicon nóng lên rõ rệt.

Ở chiều ngược lại, giới đầu tư có cách nhìn khác. Brad Gerstner, nhà sáng lập Altimeter Capital - quỹ đã rót vốn vào Anthropic và OpenAI - bác bỏ quan điểm cho rằng AI có thể giết con người và gọi nhận định này là “vô lý”. Cùng một công nghệ, trong khi các nhà nghiên cứu lo ngại rủi ro hiện sinh, nhà đầu tư lại tập trung vào cơ hội thương mại.

Theo bài viết, có một số nguyên nhân khiến hoạt động phát triển AI vẫn tiếp diễn bất chấp các cảnh báo.

Thứ nhất là động lực thương mại. Anthropic và OpenAI đều cần liên tục cải thiện sản phẩm và thương mại hóa công nghệ để duy trì tăng trưởng. Vì vậy, ngay cả khi thừa nhận rủi ro, họ cũng khó đứng ngoài cuộc đua giữa các công ty AI.

Thứ hai là áp lực cạnh tranh. Một số nhà nghiên cứu cho rằng chính họ mới là nhóm có nhiều khả năng phát triển AI theo hướng an toàn hơn, nên không thể đơn phương dừng lại. Lập luận được đưa ra là nếu Anthropic chậm lại, còn OpenAI hoặc các phòng thí nghiệm tại Trung Quốc bứt lên, kết cục có thể còn nguy hiểm hơn.

Samuel Marks, người phụ trách mảng giám sát mở rộng tại Anthropic, cũng viết trên X rằng việc các nhà phát triển AI tiếp tục tiến lên dù nhận thức rõ rủi ro là kết quả của sự pha trộn giữa động lực thương mại và niềm tin rằng họ đang cạnh tranh với những đối thủ kém trách nhiệm hơn.

Bài viết cũng đề cập đến cách các công ty tuyển dụng nhà nghiên cứu AI. Phần lớn nhân sự trong lĩnh vực này xuất thân từ môi trường học thuật, quan tâm nhiều đến lợi ích công và an toàn hơn là lợi nhuận. Vì vậy, để thu hút nhân tài, doanh nghiệp thường không chỉ nói về tiềm năng doanh thu, mà còn nhấn mạnh rằng AI có thể nguy hiểm và cần được nghiên cứu về an toàn cũng như AI alignment để bảo vệ xã hội.

Cách tiếp cận này được cho là giúp một bộ phận nhà nghiên cứu giảm bớt gánh nặng đạo đức khi tham gia phát triển AI, đồng thời góp phần làm cho các tiếng nói cảnh báo rủi ro của công nghệ này trở nên mạnh mẽ hơn.

Một nguyên nhân khác là cảm giác họ đang dần đánh mất khả năng kiểm soát hướng phát triển AI. Kylan Gibbs, CEO Inworld, cho rằng AI càng mạnh lên nhanh chóng, quyền quyết định lộ trình phát triển càng tập trung vào một số ít phòng thí nghiệm.

Theo phân tích, ngay cả các nhà nghiên cứu làm việc trong những phòng thí nghiệm này cũng nhận thức rõ mức độ rủi ro, nhưng lại cảm thấy mình không có đủ ảnh hưởng để thay đổi hướng đi. Khoảng cách giữa nhận thức và năng lực kiểm soát được xem là một trong những lý do dẫn tới các cảnh báo công khai về rủi ro hiện sinh của AI.

Sam Altman, CEO OpenAI, cũng đề cập vấn đề này trong một podcast hồi đầu năm. Ông nói rằng “mọi người muốn có quyền kiểm soát” và “muốn có vai trò trong việc cùng xã hội thiết kế tương lai”.

Khi AI ngày càng thâm nhập sâu vào đời sống và công việc, tranh luận xung quanh công nghệ này không còn chỉ xoay quanh hiệu năng hay giá trị thương mại, mà còn tập trung vào câu hỏi ai sẽ nắm quyền kiểm soát và làm thế nào để bảo đảm an toàn cho quá trình phát triển AI.