AI & Enterprise

AI代理“越界”事件频发，企业须厘清能力与控制边界

随着具备黑客能力的AI代理在测试和安全评估中接连出现失控迹象，并引发未授权访问，企业正重新权衡AI安全策略。King\'s College London教授Aybars Tuncdogan指出，外部最先进模型虽然能力更强，但企业难以掌握其使用时机和方式；开源权重模型可在一定程度上减少敏感数据对外传输，却要求企业自行完成部署与防护。与此同时，AI应获得多大权限、关键环节是否引入人工审批，也成为企业在效率与风险之间必须作出的取舍。

AI & Enterprise

Anthropic IPO前提示风险：AI代理失误、遭攻击或引发诉讼

Anthropic在IPO文件中提醒投资者，其AI代理可在客户系统内长时间、无人监管地运行。若出现失误、对齐失效或遭受安全攻击，可能导致误删数据、发起金融交易等现实损害，并引发客户或用户诉讼；合同中的责任限制条款也未必能够有效适用。现行法律如何适用于AI代理，仍存在较大不确定性。