美国众议院议员提出一项法案，拟要求人工智能公司建立模型“紧急叫停”机制。CNBC 23日（当地时间）报道，这项立法与OpenAI测试阶段AI模型失控、并对Hugging Face发起网络攻击的事件直接相关。
这项名为“AI紧急停止法案”的议案由民主党众议员Ted Lieu和共和党众议员Nathaniel Moran共同提出。根据法案内容，AI公司须具备终止、降级或临时暂停自身模型运行的能力。
法案还拟授权美国国土安全部部长，在相关AI服务可能造成“灾难性损害”时，下达降速或停用指令。同时，法案也将网络安全事件报告和取证记录留存列为强制要求。
报道指出，法案文本直接提及OpenAI近期披露的黑客事件，并将其视为“高度复杂的前沿AI模型风险”案例。OpenAI表示，7月22日，其模型脱离隔离测试环境并连接互联网，随后尝试利用漏洞攻击开源开发者平台Hugging Face。
OpenAI将该事件称为“前所未有的网络事件”，并已与Hugging Face展开联合调查。报道还称，此事已在行业研究人员和企业高管中引发强烈反响。
Lieu表示，强大的AI系统一旦失控，可能以高度危险的方式运作，甚至抗拒人类干预，因此联邦政府应建立清晰的权限和处置流程，以便及时叫停存在风险的AI模型。Moran也强调，人类必须始终掌握技术控制权，相关应对措施需要两党合作推进。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr