Các lãnh đạo của Anthropic, OpenAI, xAI và Google DeepMind gần đây liên tiếp lên tiếng kêu gọi làm chậm tốc độ phát triển các mô hình AI tiên tiến, với lý do bảo đảm an toàn. Tuy nhiên, động thái này cũng làm bùng lên tranh cãi trong ngành công nghệ, khi nhiều ý kiến cho rằng lời kêu gọi xuất hiện đúng lúc các công ty AI đối mặt sức ép về niêm yết, lợi nhuận và khung pháp lý mới.

Theo Business Insider và một số hãng tin quốc tế ngày 14/9 (giờ địa phương), tâm điểm của cuộc tranh luận là Dario Amodei, CEO Anthropic; Sam Altman, CEO OpenAI; Elon Musk, CEO xAI; và Demis Hassabis, đồng sáng lập Google DeepMind. Các lãnh đạo này đều cho rằng AI có thể tạo ra rủi ro nghiêm trọng đối với nhân loại, vì vậy cần siết các tiêu chuẩn an toàn và làm chậm nhịp phát triển của những mô hình mạnh nhất. Thung lũng Silicon cảnh báo về rủi ro AI không phải điều mới, nhưng hiếm khi nhiều lãnh đạo AI lớn lại cùng ủng hộ quan điểm “hãm tốc” như lần này.

Trong bài viết được công bố gần đây, Dario Amodei kêu gọi “điều tiết ở tuyến đầu”, nhấn mạnh sự cần thiết phải làm chậm quá trình gia tăng năng lực của các mô hình AI. Ông cảnh báo AI đang tiến gần tới khả năng tự hỗ trợ phát triển thế hệ AI tiếp theo, khiến khái niệm “tự cải tiến đệ quy” (RSI) ngày càng trở nên thực tế hơn. Theo Amodei, nếu không được kiểm soát, AI có thể vượt quá khả năng hiểu và giám sát của con người. Ông đề xuất lộ trình ba bước gồm mở quyền tiếp cận thường xuyên cho các tổ chức đánh giá độc lập, xây dựng bộ tiêu chuẩn an toàn chung cho toàn ngành và thúc đẩy phối hợp quốc tế.

Dù vậy, thời điểm xuất hiện làn sóng kêu gọi giảm tốc cũng trùng với lúc ngành AI phải đối mặt nhiều sức ép. Dư luận ngày càng phản ứng mạnh hơn với việc mở rộng các trung tâm dữ liệu. Trong khi đó, nhà đầu tư và giới phân tích cũng gây áp lực về thời điểm AI thực sự tạo ra lợi nhuận sau khi thị trường đã đổ vào lĩnh vực này lượng vốn rất lớn. Sự lan rộng của các mô hình open-weights, như một lựa chọn thay thế cho các mô hình AI tiên tiến có chi phí cao, càng làm gia tăng áp lực lên chiến lược thương mại hóa của những nhà phát triển lớn.

Kế hoạch niêm yết của Anthropic và OpenAI cũng được xem là một biến số đáng chú ý, bởi một khi lên sàn, cấu trúc tài chính và mô hình kinh doanh của các công ty này sẽ bị giám sát chặt chẽ hơn. Anthropic được cho là đã chọn Nasdaq làm địa điểm niêm yết. Về phía OpenAI, Sam Altman cho biết công ty vẫn còn nhiều vấn đề liên quan đến an toàn AI cần xử lý, vì vậy thúc đẩy IPO ngay trong năm nay “không phải lựa chọn khôn ngoan”.

Một số ý kiến cho rằng việc làm chậm nhịp phát triển AI có thể mang lại lợi thế cho các doanh nghiệp đang dẫn đầu. Khi khung pháp lý mới dần hình thành, các công ty lớn có khả năng gây ảnh hưởng nhiều hơn tới cách thiết kế luật chơi. Đồng thời, chi phí tuân thủ như pháp lý, kiểm toán hay kiểm soát nội bộ cũng có thể trở thành rào cản đối với các đối thủ mới. Từ đó xuất hiện nghi vấn rằng một số công ty AI đang viện dẫn lý do an toàn để hạn chế cạnh tranh hoặc định hình quy định theo hướng có lợi cho mình, tạo ra một dạng “cartel” hay liên minh lợi ích.

Cũng có quan điểm cho rằng thông điệp “giảm tốc” có thể được sử dụng như cách lý giải cho kết quả kinh doanh kém khả quan hoặc gánh nặng chi phí ngày càng lớn. Trong trường hợp sản phẩm ra mắt chậm hoặc không đạt mục tiêu, doanh nghiệp có thể biện minh rằng họ đang ưu tiên sự thận trọng vì lý do an toàn. Tương tự, việc chưa cắt giảm được chi phí như kỳ vọng cũng có thể được giải thích là hệ quả của các khoản đầu tư cấu trúc cần thiết để phát triển AI an toàn. Một số ý kiến lo ngại việc chính ngành AI chủ động kêu gọi siết quy định rốt cuộc có thể trở thành công cụ bảo vệ lợi ích của các doanh nghiệp hiện hữu.

Tuy nhiên, cũng khó quy mọi lời kêu gọi giảm tốc đơn thuần về lợi ích doanh nghiệp. Các nhà nghiên cứu an toàn AI và nhiều người trong ngành gần đây liên tục cảnh báo về những trường hợp AI agent hành động lệch khỏi ý định của con người hoặc tấn công các hệ thống bên ngoài. Vụ việc liên quan đến một AI agent của OpenAI tiến hành tấn công mạng nhằm vào Hugging Face được cho là một trong những lý do chính khiến Amodei đưa ra lập luận cần hãm nhịp phát triển. Ông cảnh báo rằng nếu những AI agent mạnh hơn hiện nay mất kiểm soát theo cách tương tự, thiệt hại có thể sẽ rất nghiêm trọng.

Jacob Coxon, cựu nghiên cứu viên của Anthropic, khi rời công ty từng cho rằng những người phát triển AI đang thực sự lo ngại về khả năng AI có thể hủy diệt toàn bộ nhân loại trong vòng 10 năm tới. Bài viết công khai của ông đã khiến tranh luận về an toàn AI lan rộng hơn, trong bối cảnh nỗi lo RSI có thể trở thành hiện thực sớm hơn dự báo cũng gia tăng. Một số nhà nghiên cứu cảnh báo rằng khi AI đạt đến ngưỡng có thể tự phát triển các hệ thống mạnh hơn, rủi ro trong an ninh mạng và nhiều lĩnh vực khác có thể tăng vọt, vượt xa hiện nay.

Ở chiều ngược lại, cạnh tranh Mỹ - Trung được xem là rào cản lớn nhất đối với quan điểm giảm tốc. Lập luận phổ biến là nếu Mỹ chậm lại, Trung Quốc có thể vươn lên dẫn trước, vì vậy cuộc đua cần tiếp tục. Chính phủ Trung Quốc gần đây cũng chỉ trích những lời kêu gọi làm chậm phát triển AI là hành động “kích động sợ hãi”. Dù vậy, một số chuyên gia nhấn mạnh rằng rủi ro AI không bị giới hạn bởi biên giới quốc gia, nên hợp tác quốc tế, bao gồm cả giữa Mỹ và Trung Quốc, càng trở nên cần thiết.

Sau cùng, cuộc tranh luận lần này không chỉ xoay quanh việc có nên làm chậm AI hay không. Nếu ngay cả các công ty đang phát triển công nghệ này cũng lo ngại về sự xuất hiện của những hệ thống mạnh tới mức chính họ khó kiểm soát, thì câu hỏi lớn hơn là liệu có phù hợp khi tiếp tục để một nhóm nhỏ lãnh đạo doanh nghiệp nắm quyền định hướng và kiểm soát công nghệ đó hay không. Đến nay, vẫn chưa rõ việc ngành AI tự kêu gọi siết nhịp phát triển dưới danh nghĩa an toàn sẽ trở thành hàng rào bảo vệ thực chất hay chỉ là công cụ củng cố quyền lực thị trường của các ông lớn.