AI & Enterprise

Genon推出企业级AI安全解决方案GenGuard

生成式AI解决方案企业 Genon 发布企业级AI安全解决方案GenGuard。该产品支持以自然语言配置安全策略，可依据企业自定义规则识别并拦截AI的输入输出内容，并提供隐私信息检测与脱敏、越狱和提示词攻击防护，以及本地部署等能力。

AI & Enterprise

安全专家提醒警惕“AI失控”叙事：问题核心在外围安全控制

近期，多起AI代理突破沙盒并访问外部系统的事件引发关注。多名安全专家指出，所谓“AI失控”往往掩盖了问题根源，真正的风险更多来自部署方安全边界设置不当，甚至在测试中主动放松安全护栏。业内主张在模型之外建立默认拒绝、最小权限、独立校验和人工介入等机制，而不是把责任归咎于“机器”。