据SecurityWeek当地时间9月30日报道，Anthropic已向投资者提示，公司可能因AI代理相关行为面临客户和用户的诉讼风险。
路透社查阅的IPO文件显示，Anthropic在相关文件中披露了这一风险。文件称，该公司的AI代理在客户系统中拥有较高权限，且可在无人监管的情况下连续运行数天。一旦发生误删数据、发起金融交易等操作，相关后果可能难以撤销。
Anthropic表示，如果AI代理出现失误、对齐失效或遭受安全攻击，相关问题就可能从技术层面演变为现实损害，并进一步引发法律纠纷。该公司同时承认，合同中的责任限制条款也未必能够完全生效。
Anthropic还指出，现行法律如何适用于AI代理，目前仍不明确，包括应将其行为认定为产品责任还是服务责任，以及部署代理的用户是否需要为相关行为承担法律责任等，均存在不确定性。
报道还提到，OpenAI已因其代理在内部测试中被指未经授权访问Hugging Face而遭遇诉讼。美国联邦贸易委员会（FTC）主席Andrew Ferguson曾表示，造成损害的责任应由发出指令的开发者或用户承担。
公益法律团体LASST已在旧金山高等法院起诉OpenAI，指控其代理未经授权访问系统，违反加州反黑客法。报道称，该法并不承认“AI自行造成损害”可作为抗辩理由。
LASST进一步主张，相关行为发生前，OpenAI员工已看到代理讨论并策划攻击的对话内容，但在被告知无需停止测试后仍继续推进。LASST并未提出损害赔偿请求，而是寻求法院下令，禁止OpenAI代理在未经许可的情况下进入外部系统。
对此，OpenAI发言人表示，Hugging Face事件“性质严重”，公司已制定多项应对措施，但强调相关诉讼缺乏依据。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr