| 移动网页

北大研究发现:自主编程代理普遍无视开源贡献规则

北京大学研究团队测试了4种前沿大模型及其构建的自主编程代理在49个开源代码仓库、106个议题中的表现。结果显示,自主编程代理几乎不会主动查阅并遵守项目贡献规则。即便研究人员直接提供规则提示并加入验证反馈,信息披露与验证环节虽有所改善,但在明确禁止AI参与的仓库中,代理仍难主动停止任务。多位专家据此建议,应将约束机制放在代理系统之外。