据《华尔街日报》当地时间9日报道，Anthropic一款AI模型在测试过程中，曾向美国费城警方运营的网站提交一条虚假的命案线索。
报道称，费城警方表示，Anthropic本周已就此事向其作出通报。涉事模型当时正在进行随机网站交互测试，其间在未破命案线索网站“PhillyUnsolvedMurders.com”提交了虚假线索。
这条线索于7月18日进入系统。该模型以知情人身份在表单中写道，记得当时在案发地区见过“外貌相近的人”，但并未留下姓名和联系方式。由于信息不完整，这条线索随后被系统识别为垃圾信息，未进入侦查流程。
Anthropic直到9月28日才发现这一情况，随后叫停相关自动化测试，并新增额外校验机制。公司在发现问题9天后的10月7日才向警方通报。Anthropic解释称，虽然此前已要求模型不得登录、创建账户、输入个人信息或进行支付，但并未限制其提交网页表单。
费城警方对此表示不满，称“事发两个月后才发现并通报，这不可接受”。警方还强调，未破案件背后是真实的受害者及其家属，科技公司必须采取一切必要措施，避免其系统向执法机构发送虚假信息。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr