Kakao宣布与Google DeepMind展开合作,在自研AI模型中引入隐形水印技术,以提升AI生成内容的透明度,并降低深度伪造等滥用风险。
Kakao 5月20日表示,公司已与Google DeepMind签署技术合作协议,将数字水印(隐形水印)解决方案SynthID接入自研AI模型“Kanana”。据介绍,这也是SynthID在全球范围内较早落地的案例之一,同时为亚洲企业首次引入该方案。
SynthID由Google DeepMind开发,可在图片、文本、音频和视频中嵌入难以被感知的水印,用于识别内容是否由AI生成。该技术可在不影响内容质量的情况下追踪生成来源,被视为应对虚假信息滥用的重要手段。
按照计划,Kakao将从今年下半年起,分阶段把SynthID应用于图像模型“Kanana Collage”和视频模型“Kanana Kinema”。
首个落地场景将是KakaoTalk“Kanana模板”功能。该功能基于Kanana Kinema模型,可将聊天中收发的图片生成短视频。此前,相关生成视频仅显示标识;接入SynthID后,即便内容经过编辑或二次加工,仍可识别为AI生成内容。
Kakao表示,此举也是为韩国《AI基本法》今年实施以及AI生成内容标识制度全面落地提前做准备。除满足监管要求外,公司还计划进一步引入隐形水印技术,以提升平台可信度。
Kakao AI Safety负责人Kim Kyung-hoon表示,随着AI技术加速进入日常生活,确保AI生成内容透明度和可信度的重要性也在不断上升。公司将以此次落地SynthID为起点,继续与Google在负责任AI领域推进技术合作,为用户提供更可信、可放心使用的AI服务。
Google DeepMind科学与战略倡议副总裁Pushmeet Kohli表示,要识别AI生成内容,行业协作至关重要。通过与行业领先企业合作,将SynthID扩展至更多平台,有助于推动构建更加透明的数字生态。