CEO Microsoft Satya Nadella cho rằng việc năng lực của AI tiếp tục cải thiện không đồng nghĩa bài toán kiểm soát sẽ tự được giải quyết. Theo ông, phát triển mô hình mạnh hơn và bảo đảm an toàn cho AI là hai nhiệm vụ riêng biệt.

Ngày 26/10 (giờ địa phương), Business Insider dẫn phát biểu của Nadella trên podcast về đầu tư mạo hiểm “20VC”, cho biết vấn đề khiến ông thay đổi quan điểm nhiều nhất trong một năm qua là AI Alignment, tức căn chỉnh AI.

Căn chỉnh AI là nỗ lực nhằm bảo đảm hệ thống AI hoạt động phù hợp với mục tiêu và giá trị của con người. Trọng tâm của vấn đề này là giữ cho AI không vượt khỏi phạm vi kiểm soát, ngay cả khi năng lực xử lý và giải quyết vấn đề của hệ thống ngày càng cao.

Nadella cho biết trước đây ông từng kỳ vọng khi quy mô và năng lực của các mô hình AI tăng lên, vấn đề căn chỉnh cũng sẽ dần được giải quyết. Tuy nhiên, thực tế cho thấy dù hiệu năng cải thiện đúng như kỳ vọng, việc bảo đảm hành vi an toàn và duy trì khả năng kiểm soát vẫn rất khó.

Ông nhấn mạnh hiện không còn tin rằng bài toán căn chỉnh sẽ tự được giải quyết theo đà phát triển của mô hình. Theo Nadella, đây có thể là một bài toán khác, thậm chí khó hơn dự đoán ban đầu.

Quan điểm này cũng trùng với các nguyên tắc bảo mật AI mà Nadella đăng trên X ngày 10/10. Theo đó, doanh nghiệp cần coi mô hình AI là một rủi ro an ninh nội bộ tiềm ẩn.

Nadella giải thích AI không tự thân mang ác ý, nhưng bất kỳ hệ thống nào có quyền truy cập vào dữ liệu nhạy cảm đều có thể mắc lỗi hoặc bị lợi dụng trong các cuộc tấn công từ bên ngoài.

Vì vậy, ông cho rằng không nên đặt cược vào khả năng mô hình tự hành xử an toàn. Thay vào đó, doanh nghiệp cần xây dựng các lớp kiểm soát từ bên ngoài.

Cụ thể, Nadella đề xuất giới hạn quyền truy cập của AI, lưu nhật ký hoạt động, tiến hành kiểm chứng độc lập và thiết lập cơ chế “ngắt khẩn cấp” dưới sự giám sát của con người.

Lo ngại về khả năng kiểm soát AI hiện cũng đang lan rộng trong ngành. Hồi tháng 7, hơn 1.100 người làm việc trong lĩnh vực AI đã ký thư ngỏ, cảnh báo tốc độ phát triển của công nghệ này có thể vượt quá năng lực thấu hiểu và kiểm soát của con người.

Phát biểu của Nadella cho thấy trong cuộc đua AI, bên cạnh hiệu năng mô hình, khả năng kiểm soát và độ tin cậy đang trở thành những tiêu chí ngày càng quan trọng.