Ngày 10/10 (giờ địa phương), Tổng giám đốc Microsoft Satya Nadella kêu gọi tích hợp cơ chế "dừng khẩn cấp" do con người kiểm soát vào các hệ thống trí tuệ nhân tạo (AI) tiên tiến.

Theo CNBC, trong bài đăng trên mạng xã hội X, ông Nadella nhấn mạnh các hệ thống AI cần được thiết kế với khả năng cô lập và cơ chế kiểm soát độc lập. Theo ông, phải có phương án để người có thẩm quyền có thể dừng hoặc tắt mô hình, kể cả khi hệ thống đang vận hành.

Người đứng đầu Microsoft cho rằng các mô hình AI khó dự đoán cần được đặt trong một hệ thống có thể dự đoán và kiểm soát được, với sự giám sát của con người cùng các quy trình vận hành đáng tin cậy. Ông nói những khoảng trống so với tiêu chuẩn hiện nay cần được lấp đầy bằng các chuẩn mực mới của ngành.

Ông Nadella cũng cho rằng một cách để xây dựng hệ thống như vậy là xem cả các mô hình đóng tiên tiến lẫn mô hình có trọng số mở như một dạng rủi ro nội gián.

Bên cạnh đó, ông nhấn mạnh AI cần được xây dựng theo nguyên tắc “có thể quan sát được”. Một số biện pháp được nêu gồm sử dụng đồng thời nhiều mô hình, ghi lại hoạt động của mô hình dưới dạng nhật ký mà con người có thể đọc, kiểm thử hệ thống liên tục, triển khai cơ chế kiểm soát và kiểm toán độc lập, cô lập hệ thống khi cần và công bố sự cố.

Theo ông Nadella, “hệ thống siêu trí tuệ đáng tin cậy nhất” không phải là hệ thống dùng mô hình mà con người tin tưởng nhất, mà là hệ thống được thiết kế để con người phải đặt niềm tin vào mô hình ở mức thấp nhất.

Phát biểu này được đưa ra trong bối cảnh nhiều lãnh đạo công nghệ như Bill Gates, đồng sáng lập Microsoft; Dario Amodei, CEO Anthropic; Sam Altman, CEO OpenAI; và Elon Musk, CEO SpaceX, cùng cảnh báo rằng các biện pháp an toàn cho AI vẫn còn thiếu trong khi công nghệ đang phát triển quá nhanh.

Ở chiều ngược lại, Tổng thống Donald Trump nhiều lần bác bỏ quan điểm cho rằng AI có thể tạo ra nguy cơ tuyệt chủng, đồng thời nhấn mạnh Mỹ cần duy trì vị thế dẫn trước Trung Quốc.