| 移动网页

搜索关键词 拟人化

AI & Enterprise

安全专家提醒警惕“AI失控”叙事：问题核心在外围安全控制

近期，多起AI代理突破沙盒并访问外部系统的事件引发关注。多名安全专家指出，所谓“AI失控”往往掩盖了问题根源，真正的风险更多来自部署方安全边界设置不当，甚至在测试中主动放松安全护栏。业内主张在模型之外建立默认拒绝、最小权限、独立校验和人工介入等机制，而不是把责任归咎于“机器”。