AI安全合作签约仪式现场合影（从右起）：KT cloud Cloud本部负责人 Gong Yongjun、Kakao AI协同成果负责人 Kim Sewoong。图片来源：KT cloud

KT cloud于6月26日宣布，已与Kakao建立AI安全合作机制，双方将围绕生成式AI的安全落地展开协作。

根据合作内容，KT cloud将结合自身AI基础设施平台能力与Kakao的AI安全技术，为客户开发和运营生成式AI服务提供更安全、可信的底层支撑。

在第一阶段合作中，KT cloud将把Kakao的AI护栏模型“Kanana Safeguard”接入其今年4月面向公有云客户推出的RAG生成式AI服务平台“RAG Suite 2.0”。该模型针对韩语以及韩国文化、法律语境进行优化，可识别并拦截生成有害内容、不当回答及提示词攻击等风险，为生成式AI应用提供安全保障。

除AI护栏能力外，双方还计划分阶段向KT cloud客户提供多项AI安全工具，包括模型稳定性评测体系，以及基于多种攻击场景、用于识别模型薄弱环节的红队测试系统。

双方还计划结合KT cloud环境中积累的客户反馈与运营数据，进一步将合作范围拓展至AI安全工具的统一集成与管理，并延伸至AI安全运维平台（Ops Platform）建设。

KT cloud CEO Kim Bongkyun表示，随着生成式AI加速普及，除模型性能外，如何建立负责任的AI使用基础也已成为重要课题。KT cloud将通过与Kakao的合作，融合AI基础设施与安全技术，支持公有和民营客户在更可信的环境中开发和运营AI服务。

关键词

#KT cloud #Kakao #AI安全 #生成式AI #RAG Suite 2.0 #Kanana Safeguard #AI护栏 #红队测试 #模型评测 #运维平台
版权所有 © DigitalToday。未经授权禁止转载或传播。