生成式AI解决方案企业Genon于26日宣布，正式推出企业级AI安全解决方案GenGuard。
GenGuard可对AI服务的输入与输出内容进行识别和判定，并依据企业设定的安全策略实施拦截。该产品基于生成式AI平台GenOS在“护栏（Guardrail）”能力上的实践积累开发而成，即使未部署GenOS，企业也可单独使用GenGuard。
GenGuard的核心能力之一，是支持通过自然语言配置安全策略。企业无需额外训练模型，只需输入诸如“禁止推荐个股”等策略要求，系统即可据此管理AI输入输出内容，并防范有害内容、越狱和提示词攻击等风险。
在隐私保护方面，GenGuard既能识别身份证号、账号等结构化信息，也能识别姓名、地址等非结构化个人信息。对于发送至外部AI服务的个人信息，企业可选择直接拦截或进行脱敏处理。产品同时提供观测模式，便于在策略正式启用前验证误报情况，并支持本地部署。
在发布GenGuard的同时，Genon还公开了自研轻量级护栏模型“GenGuard 1.0 Lite”以及面向韩语服务策略评估的数据集“KSPG-Bench”。公司表示，在与5款开源护栏模型的对比测试中，其自研模型以84.3分的平均成绩位居第一。
Genon表示，未来将重点面向金融、公共等对信息保护和内部管控要求较高的行业，加快推进GenGuard的落地应用。
Genon副社长Dae-woo Myeong表示，随着企业AI应用进入加速阶段，安全不再只是风险管理工具，而将成为决定AI服务可信度和竞争力的关键因素。公司将以适配本土企业环境的AI安全技术，进一步推进市场布局。
记者信息
Seulgi Son
sageson@d-today.co.kr