Microsoft发布面向其AI模型的新行为准则，明确禁止网络攻击、涉核武器活动以及制作深度伪造内容。
据TechCrunch报道（当地时间14日），Microsoft在这份文件中明确了AI模型在训练与运行过程中应遵循的价值取向和安全标准。
文件指出，未来10年内，超智能AI系统可能在大多数任务上超过人类。Microsoft同时强调，对这类强大系统进行有效约束和控制，将是人类面临的最重要课题之一。
这份准则的核心，是为每个模型设定一套优先级高于用户偏好和具体任务的行为规则。其中既包括对网络攻击、涉核武器活动和制作深度伪造内容的明确禁令，也涵盖防止人类整体监督能力被削弱的相关要求。
Microsoft还提出，AI模型应当服务于人类，而不是取代人类，其设计目标也应指向增进人类福祉。
文件明确指出，Microsoft自身的MAI模型不得通过适应性、欺骗性、自我强化、共谋等机制，或以其他方式规避、削弱人类监督。文件同时要求，模型不得发展到使具备权限的人员或系统无法稳定地对其进行指示、修正或停止的程度。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr