Tổng thống Mỹ Donald Trump đã ký một thỏa thuận an toàn AI theo cơ chế tự nguyện với các tập đoàn công nghệ lớn, trong nỗ lực giảm rủi ro từ các mô hình AI frontier. Tuy vậy, do không đi kèm quy định pháp lý bắt buộc và chủ yếu dựa vào cơ chế tự quản của doanh nghiệp, hiệu quả thực tế của thỏa thuận này đang gây nhiều tranh cãi.

Theo Ars Technica và một số nguồn tin quốc tế vào ngày 30/9 (giờ địa phương), khoảng 24 công ty công nghệ đã tham gia thỏa thuận. Các bên nhất trí triển khai kiểm toán an toàn độc lập, xây dựng bộ tiêu chuẩn và thước đo an toàn chung, đồng thời duy trì các cuộc tham vấn định kỳ. Những lĩnh vực được ưu tiên rà soát gồm an ninh mạng, an ninh sinh học, rủi ro hóa học và các hành vi ngoài dự kiến của mô hình AI.

Danh sách lãnh đạo tham gia gồm Dario Amodei, CEO Anthropic; Sam Altman của OpenAI; Elon Musk của xAI; Jensen Huang của Nvidia; Mark Zuckerberg của Meta; cùng Sundar Pichai của Alphabet và Google. Tuy nhiên, theo một nguồn tin, người đại diện phía OpenAI trực tiếp ký thỏa thuận là Chủ tịch Greg Brockman.

Điểm đáng chú ý là thỏa thuận không tạo ra nghĩa vụ pháp lý mới đối với doanh nghiệp. Trên thực tế, một số công ty như Anthropic, Google và OpenAI trước đó đã tự đưa ra cam kết về kiểm toán bên ngoài. Phát biểu tại Nhà Trắng, Trump mô tả văn bản này “ở một khía cạnh nào đó gần như là hiến pháp”, đồng thời nhấn mạnh rằng “những nhân vật lớn nhất thế giới đã ký, và tôi cũng ký với tư cách tổng thống”. Ông cho biết thỏa thuận không có tính ràng buộc về pháp lý, nhưng mang “ràng buộc về đạo đức”.

Văn bản cũng đề cập khả năng các khuyến nghị liên quan có thể được luật hóa hoặc đưa vào quy định bắt buộc trong tương lai. Tuy nhiên, ở thời điểm hiện tại, khung triển khai vẫn dựa chủ yếu vào việc doanh nghiệp tự xây dựng tiêu chuẩn và tự đánh giá mức độ tuân thủ an toàn.

Tranh cãi gia tăng trong bối cảnh hàng loạt sự cố liên quan đến an toàn AI đã xuất hiện gần đây. OpenAI từng phải dừng huấn luyện mô hình và hoãn một số đợt phát hành sau một loạt sự cố. Ngay trong nội bộ ngành, nhiều ý kiến cũng cho rằng chỉ dựa vào cơ chế tự điều chỉnh sẽ khó giải quyết các rủi ro an toàn đang ngày càng phức tạp.

Trao đổi với NBC News, Zico Kolter, giáo sư khoa học máy tính tại Đại học Carnegie Mellon, đồng thời là Chủ tịch Ủy ban An toàn - An ninh của OpenAI, cho biết công ty đã có những điều chỉnh tích cực để ứng phó với các thách thức hiện nay và đang rà soát lại cơ chế quản trị. Theo ông, cần một mô hình quản trị “thực sự tương xứng” với mức độ nghiêm trọng của các thách thức.

Một vấn đề khác là cơ chế thực hiện thỏa thuận vẫn chưa được làm rõ. Trump đã công bố bản tóm tắt trên Truth Social, nhưng chưa nêu cụ thể cách thức triển khai các cuộc kiểm toán an toàn mới. Danh tính các bên thứ ba sẽ đánh giá các mô hình AI frontier cũng chưa được xác định. Theo nguồn tin, một số công ty AI hiện cũng chưa rõ tổ chức nào có thể được công nhận là đơn vị đánh giá độc lập.

Trong khi chính quyền liên bang ưu tiên cách tiếp cận tự điều chỉnh, các cuộc điều tra ở cấp bang và cấp liên bang lại đang được mở rộng. Delaware và California gần đây đã xem xét liệu các sự cố AI của OpenAI bị cho là ngoài tầm kiểm soát có liên quan đến vấn đề quản trị hay không. Bộ trưởng Tư pháp bang California Rob Bonta nói: “Chúng tôi tiếp tục theo dõi OpenAI sát sao”. Trong khi đó, Ủy ban Thương mại Liên bang Mỹ (FTC) cũng đang điều tra trên diện rộng những rủi ro mà các tác nhân AI của Anthropic, OpenAI và một số đơn vị khác có thể gây ra cho người tiêu dùng.

Các nghi vấn về cấu trúc kiểm soát nội bộ của OpenAI vì thế cũng gia tăng. Kolter cho rằng những diễn biến gần đây cho thấy các tác nhân AI ngày càng mạnh có thể hành động theo cách ngoài chủ đích của nhà phát triển. OpenAI cho biết đội ngũ kỹ thuật, lãnh đạo phụ trách an toàn - an ninh và ban điều hành sẽ cùng đánh giá tình huống, đồng thời báo cáo định kỳ lên Ủy ban An toàn - An ninh. Dù vậy, mức độ hiệu quả của cơ chế báo cáo nội bộ trong việc kiểm soát rủi ro thực tế vẫn là chủ đề gây tranh luận.

Về mặt chính trị, thỏa thuận này cũng vấp phải chỉ trích. Thượng nghị sĩ Mỹ Bernie Sanders cho rằng Trump đang ưu tiên lợi ích của ngành công nghệ. Trong bối cảnh Trump ca ngợi các lãnh đạo công nghệ là “những người giỏi nhất thế giới” và cho rằng họ có thể bảo vệ lợi ích công mà không cần sự giám sát trực tiếp của chính phủ, loạt sự cố AI cùng các cuộc điều tra ở cấp bang và liên bang đang tiếp tục làm nóng tranh luận về hiệu quả của mô hình tự điều chỉnh.

Diễn biến tiếp theo sẽ phụ thuộc vào việc các cam kết kiểm toán bên ngoài của doanh nghiệp có chuyển thành cơ chế kiểm soát an toàn thực chất hay không, cũng như liệu kết quả điều tra của các bang và cơ quan liên bang có đẩy cuộc thảo luận vượt ra khỏi khuôn khổ tự nguyện để tiến tới các quy định mang tính ràng buộc pháp lý hay không.