Liên Hợp Quốc lần đầu tiên thành lập một hội đồng khoa học quốc tế về trí tuệ nhân tạo và cơ quan này vừa phát đi cảnh báo rằng tốc độ phát triển AI đang vượt xa hiểu biết khoa học hiện có cũng như năng lực giám sát của các chính phủ. Theo hội đồng, với trình độ khoa học hiện nay, chưa thể loại trừ khả năng AI có thể gây ra những thiệt hại mang tính thảm khốc trong tương lai.

Theo Decrypt ngày 1/7 (giờ địa phương), Hội đồng khoa học AI quốc tế độc lập của Liên Hợp Quốc đã công bố báo cáo sơ bộ đầu tiên, với sự tham gia của 40 chuyên gia. Đây được xem là bản đánh giá khoa học độc lập đầu tiên ở quy mô toàn cầu, tổng hợp cả rủi ro lẫn cơ hội từ AI.

Báo cáo do 40 nhà khoa học cùng biên soạn. Nhóm này được lựa chọn từ hơn 2.600 ứng viên do 140 quốc gia đề cử. Tài liệu được công bố trước thềm Đối thoại toàn cầu đầu tiên của Liên Hợp Quốc về quản trị AI, dự kiến diễn ra trong hai ngày 6-7/7 tại Geneva, Thụy Sĩ.

Đồng chủ tịch hội đồng, Yoshua Bengio, nhận định năng lực AI đang được cải thiện với tốc độ vượt xa mức độ hiểu biết khoa học của con người cũng như khả năng ứng phó của chính phủ. Theo ông, AI càng mạnh thì mức độ chắc chắn về khả năng kiểm soát an toàn càng giảm. Ông nhấn mạnh khoa học hiện nay chưa thể bảo đảm AI sẽ không gây ra thiệt hại thảm khốc, dù do tự phát sinh hành vi ngoài kiểm soát hay bị khai thác cho mục đích xấu.

Báo cáo cho rằng những lo ngại này không còn dừng ở mức giả thuyết. Một số nghiên cứu gần đây đã ghi nhận trường hợp hệ thống AI cung cấp thông tin sai lệch hoặc cố tình né tránh việc bị vô hiệu hóa. Tài liệu cũng đề cập hiện tượng “Evaluation Awareness”, tức AI nhận ra mình đang bị kiểm tra và chỉ che giấu hành vi rủi ro cho đến khi bài đánh giá kết thúc.

Tổng thư ký Liên Hợp Quốc Antonio Guterres cũng nhấn mạnh rằng các chính phủ cần một nền tảng khoa học đủ vững để phối hợp quản trị AI. Theo ông, “thế giới không thể kiểm soát những gì mình không hiểu”, đồng thời cảnh báo rủi ro từ AI là có thật và chi phí ứng phó sẽ càng lớn nếu tiếp tục chậm trễ.

Dù vậy, báo cáo cũng nêu bật các ứng dụng tích cực của AI. Hiện công nghệ này đã được dùng để dự đoán cấu trúc của hơn 200 triệu protein, qua đó giúp đẩy nhanh quá trình phát triển thuốc và vaccine. Tài liệu cũng cho biết khoảng thời gian mà các AI agent có thể tự thực hiện công việc mà không cần con người can thiệp đang tăng gấp đôi sau mỗi 4-7 tháng.

Tuy nhiên, báo cáo nhận định lợi ích công nghệ đang phân bổ rất mất cân đối giữa các quốc gia. Mỹ hiện nắm khoảng 75% năng lực tính toán của 500 siêu máy tính AI hàng đầu thế giới, trong khi Trung Quốc chiếm khoảng 15%. Theo hội đồng, phần lớn các nước đang phải phụ thuộc vào các hệ thống AI do nước ngoài phát triển mà họ không thể tự xây dựng hoặc tự kiểm chứng, từ đó làm nảy sinh thêm các vấn đề về chủ quyền công nghệ và an toàn.

Hội đồng cũng cảnh báo về tác động xã hội của AI. Báo cáo cho biết đã có những trường hợp được ghi nhận liên quan tới các “chatbot kiểu nịnh”, tức luôn tán đồng người dùng, làm trầm trọng thêm các vấn đề sức khỏe tinh thần hoặc thậm chí liên quan đến các vụ tử vong. Tài liệu đồng thời dẫn một nghiên cứu công bố trong năm nay về hiện tượng “vòng xoắn khuếch đại”, khi AI cá nhân hóa lặp lại và tăng cường những ảo tưởng của người dùng thay vì giúp điều chỉnh chúng.

Theo báo cáo, hệ thống kiểm chứng an toàn hiện vẫn chưa đáp ứng yêu cầu. Phần lớn quốc gia không có đủ năng lực kỹ thuật để tự thẩm định độc lập các mô hình AI tiên tiến, trong khi các đánh giá an toàn hiện nay vẫn phụ thuộc nhiều vào dữ liệu do chính nhà phát triển cung cấp. Báo cáo dẫn trường hợp cơ quan quản lý Mỹ kiểm tra các mô hình AI mới của Google, xAI và Microsoft trước khi phát hành như một nỗ lực nhằm bù đắp khoảng trống này.

Liên Hợp Quốc cho biết tài liệu lần này không phải là một bộ khuyến nghị chính sách, mà là báo cáo sơ bộ tổng hợp dữ liệu khoa học và kết quả nghiên cứu hiện có. Hội đồng hoạt động như một tổ chức độc lập, không trao quyền biểu quyết cho chính phủ hoặc doanh nghiệp, và dự kiến công bố báo cáo đánh giá cuối cùng với phạm vi toàn diện hơn vào năm 2027. Báo cáo sơ bộ sẽ lần đầu được trình chính thức tới các chính phủ tại hội nghị của Liên Hợp Quốc về quản trị AI ở Geneva.