Microsoft首席执行官Satya Nadella。图片来源：Microsoft

Microsoft首席执行官Satya Nadella表示，先进AI系统应设置由人类掌控的“紧急制动”机制，以确保在必要情况下能够进行人工干预。

据CNBC当地时间10日报道，Nadella在社交平台X（原Twitter）发文称，AI系统需要具备隔离机制，并设置独立的控制装置；同时，应允许具备权限的人员在系统运行过程中随时暂停或关闭模型。

他表示，对于不可完全预测的AI模型，应通过可预测的系统设计、人类控制以及可信的运行流程进行约束和管理。对于现有标准尚未覆盖的领域，行业也有必要建立新的规范。Nadella还提到，将最先进的闭源模型和开源权重模型一并纳入“内部人风险”框架加以管理，也是构建此类系统的一种方式。

Nadella强调，AI系统应按照“可观测性”原则进行设计。具体做法包括：联合使用多个模型、将模型行为留存为人类可读的记录、持续开展系统测试、建立独立控制与独立审计机制，并配套隔离措施和事故披露机制。

他进一步表示，“最可靠的超智能系统，并不是建立在对模型高度信任基础上的系统”，而是“即便尽可能减少对模型的信任，仍能正常运行的系统”。

报道称，在Nadella作出上述表态之际，Microsoft联合创始人Bill Gates、Anthropic首席执行官Dario Amodei、OpenAI首席执行官Sam Altman、SpaceX首席执行官Elon Musk等人，近期也持续就AI安全防护不足以及技术发展过快发出警示。与此同时，Donald Trump多次淡化“AI可能导致人类灭绝”的风险论，并强调要在竞争中领先中国。

关键词

#Microsoft #Satya Nadella #AI安全 #紧急制动 #模型隔离 #可观测性 #独立控制 #独立审计 #开源权重模型 #闭源模型 #X
版权所有 © DigitalToday。未经授权禁止转载或传播。