美国AI公司Anthropic已向美国国会提交一份联邦立法草案，建议在AI模型可能造成大规模人员伤亡或重大经济损失的情况下，允许政府介入，暂停相关模型的发布或使用。不过，草案同时对政府干预设定了较严格的门槛，其监管力度与适用边界预计仍将引发争议。
据Business Insider近日（当地时间）报道，Anthropic近期已向美国国会相关人士递交上述草案，重点聚焦前沿AI模型的安全监管。
草案的核心内容是明确政府干预的触发条件：只有在模型存在“可预见且迫在眉睫”的风险，且可能导致超过50人死亡或重伤，或造成不低于10亿美元财产损失时，政府才可介入。草案所列风险范围主要包括生物武器的开发与传播、AI脱离开发方控制运行，以及网络攻击等情形。
草案还提出建立独立评估机制。经美国商务部登记的外部评估机构将定期检查AI开发企业及其模型；如发现重大风险，须在评估完成后72小时内向商务部报告。草案同时规定，评估机构可以向AI企业收费，但收费金额不得与评估结论挂钩。
如果美国商务部确认相关风险存在，可向华盛顿特区联邦地区法院申请禁令，要求暂停相关模型的发布。不过，草案也限制其他联邦机构单独采取措施，暂停相关模型的开发、分发或内部部署与使用。
除上述内容外，草案还纳入多项配套要求，包括建立企业安全管理体系、发布透明度报告、保护内部举报人，以及履行重大事故报告义务等。
争议之一在于联邦监管与州法律之间的关系。根据草案，在风险披露、第三方评估和事故报告等部分领域，联邦法将优先适用。外界担忧，此举可能削弱州政府原有的监管权限。Anthropic则表示，这份提案是其今年6月公开AI政策框架后的“合理建议”。
目前，这份草案尚未进入正式立法程序，也未形成已生效法律。美国国会内部仍在就AI安全监管的强度，以及政府介入的边界持续磋商。
Choi Jae-won
ittt_0801@d-today.co.kr