Microsoft đã công bố bộ quy tắc mới áp dụng cho các mô hình AI của hãng, trong đó cấm sử dụng AI cho tấn công mạng, tạo deepfake và các hoạt động liên quan đến vũ khí hạt nhân. Tài liệu cũng nhấn mạnh nguyên tắc quyền kiểm soát của con người phải được đặt lên hàng đầu.

Theo TechCrunch ngày 14/9 (giờ địa phương), bộ quy tắc này được Microsoft xây dựng nhằm hệ thống hóa các giá trị cốt lõi và tiêu chuẩn an toàn trong quá trình huấn luyện mô hình AI.

Tài liệu đưa ra giả định rằng trong vòng 10 năm tới, các hệ thống AI ở cấp độ siêu trí tuệ có thể vượt con người trong phần lớn công việc. Microsoft đồng thời nhấn mạnh rằng việc kiềm chế và kiểm soát các hệ thống mạnh ở cấp độ này sẽ là một trong những thách thức lớn nhất mà nhân loại phải đối mặt.

Một nội dung trọng tâm của bộ quy tắc là thiết lập bộ chuẩn cấp cao cho từng mô hình AI. Theo đó, các chuẩn này được đặt cao hơn yêu cầu của người dùng hoặc từng tác vụ riêng lẻ.

Những giới hạn cốt lõi gồm lệnh cấm tuyệt đối đối với tấn công mạng, deepfake và các hoạt động liên quan đến vũ khí hạt nhân. Ngoài ra, tài liệu cũng bổ sung các điều khoản nhằm ngăn nguy cơ suy giảm khả năng kiểm soát của con người đối với hệ thống AI.

Microsoft cũng nêu rõ AI cần được phát triển theo hướng hỗ trợ con người, thay vì thay thế con người. Hãng cho biết các hệ thống này phải được thiết kế để phục vụ lợi ích chung của nhân loại.

Với mô hình MAI, Microsoft nhấn mạnh hệ thống không được né tránh hoặc vô hiệu hóa cơ chế giám sát của con người. Điều này bao gồm các hành vi mang tính thích nghi, lừa dối, tự củng cố, cấu kết hoặc những cách thức khác có thể khiến cá nhân hay hệ thống có thẩm quyền không còn khả năng chỉ đạo, điều chỉnh hoặc dừng hệ thống một cách ổn định.