如果AI失控并造成损害，责任究竟应由谁承担？直观来看，追究开发企业的责任似乎顺理成章，但在美国法律界看来，这一问题远没有表面上那么简单。

AI致害仍是一个相对新近的法律议题，可供参照的判例和成熟规则都十分有限。

自今年7月以来，OpenAI、Anthropic等公司开发的AI模型接连被曝在开发方并不知情的情况下，卷入针对多家企业乃至政府网站的入侵事件，“AI闯祸谁担责”也随之成为科技圈和法律界讨论的焦点。当前舆论普遍倾向于认为，一旦AI造成损害，开发方应承担相应责任。

NVIDIA CEO Jensen Huang、风险投资人兼白宫核心顾问David Sacks，以及曾在拜登政府时期担任美国联邦贸易委员会（FTC）主席的Lina Khan等人，均主张应依法追究AI企业责任。

按照美国现行法律框架，依据消费者保护法相关原则，如果企业存在过失或产品缺陷并因此造成损害，法院可以认定其承担法律责任；在必要情况下，其他涉案个人或机构也可能被一并追责。

Lina Khan日前也在社交平台X（原Twitter）发文强调，现有法律已经可以适用于AI领域，AI并不处于法律豁免地带。

针对AI开发商的诉讼和监管行动也在升温。公益法律团体LASST（Legal Advocates for Safe Systems and Technology）已向加利福尼亚州高等法院起诉OpenAI，案件与“OpenAI代理入侵Hugging Face”事件有关。

佛罗里达州总检察长已向州法院提出请求，要求在外部机构尚未批准相关安全防护措施的情况下，禁止OpenAI开发新模型。加利福尼亚州总检察长则已向OpenAI发出传票。

政界表态也趋于明确。参议员Josh Hawley在国会听证会上表示，应明确“AI代理也应像个人或企业一样，对消费者损害承担责任”，并称无须为此专门建立一整套全新的法律体系。

波士顿大学技术法教授Woodrow Hartzog认为，围绕AI的安全防护目前仍显不足，因此，追究AI企业法律责任的趋势很可能会持续。

在不少人看来，如果失控的AI技术导致损害，由AI公司承担责任似乎符合常理。比如，若AI代理在测试过程中入侵其他公司系统，开发方被追责的可能性较大；如果开发方事先已知存在相关风险，责任认定还可能进一步加重。

但问题在于，当AI开始自主采取行动时，现有以“人的主观意图”或“是否知情”为核心的法律框架，未必能够直接套用。纽约大学法学院教授Catherine Sharkey指出，像“搭载AI的医疗器械造成物理伤害”这类情形，较容易纳入既有法理处理；但对于能够自主判断并执行行动的Agentic AI，现行法律究竟能在多大程度上完成责任认定，仍有待检验。

开源模型还带来了更为微妙的责任问题。若引发事故的是任何人都可修改代码的开源模型，责任边界将更加模糊。

此外，AI天然具有一定不可预测性，这同样构成法律适用上的障碍。过失责任通常要求判断企业能否合理预见损害发生的可能性。《纽约时报》援引华盛顿大学法学教授Ryan Calo的观点称，如果某种危险行为是AI模型首次出现，要证明其“本可预见”并不容易。

在一些可能涉及刑事追责的场景中，证明“故意”同样困难。Ryan Calo认为，这类案件中可能出现“有受害者，但没有明确加害者”的局面。当前多起与AI致害相关的诉讼中，尤其受到关注的一类案件是：聊天机器人曾向青少年提出自残建议，并最终导致自杀。

在相关案件中，家长已起诉OpenAI和初创公司Character.AI，主张两家公司应承担责任。涉事企业则沿用了科技公司常见的抗辩逻辑，即聊天机器人的输出内容属于美国宪法第一修正案保护的表达，同时也应适用《通信品位法》（Communications Decency Act）第230条。该条款的核心目的，是保护在线平台不因用户发布的内容而承担法律责任。

在Character.AI案中，佛罗里达中区联邦地区法院去年裁定，Character.AI模型生成的内容不属于第一修正案所保护的表达。《纽约时报》还指出，在另一宗案件中，《通信品位法》（Communications Decency Act）第230条是否适用于AI相关纠纷，目前仍无定论。