Kakao在开发者大会“if(kakao)26”活动现场与外部专家合影。图片来源:Kakao

随着自主型AI智能体加快普及,Kakao发布了一套适用于服务规划到运营全过程的AI伦理原则及执行体系。

Kakao 10月15日表示,公司已在13日于京畿道龙仁市Kakao AI Campus举行的开发者大会“if(kakao)26”上,公开新版AI伦理原则“SPIRIT”、执行体系“NORMA”以及配套检查清单。

其中,“SPIRIT”由六项原则构成,分别为安全、隐私、包容、责任、用户主体性以及透明与可信。Kakao表示,该原则主要参照《韩国人工智能伦理原则》的三大价值和七项原则,并结合自身服务环境作出进一步细化和补充。

在原则落地层面,Kakao将执行体系命名为“NORMA”。该体系以组织层面的共同责任为基础,旨在将复杂的AI伦理议题拆解为可管理、可执行的具体环节。

Kakao介绍称,这套原则与体系由今年7月成立的AI与技术伦理小委员会外部咨询团共同参与制定,并于本月初形成。外部咨询团负责审查其与海内外规范的一致性;公司内部则由AI安全、个人信息保护、信息安全及服务相关组织从实务角度完成评估。

针对自主型AI智能体可能带来的风险,Kakao将其划分为五大管理领域,即控制主导权、目标、权限、调用资源和交互。

围绕上述领域,Kakao将分别配置人类监督与紧急控制、权限管理、数据保护等必要控制措施。在此基础上形成的“AI伦理执行检查清单”将按三个环节开展,依次为识别服务属性、开展前置风险筛查,以及检查并判定控制项。

该检查清单计划于年内应用到实际服务中。

与此同时,Kakao还将加强面向儿童及青少年用户的AI服务审查。公司计划以自2025年起实施的“数字儿童与青少年保护检查清单”为基础,参考经济合作与发展组织(OECD)和联合国儿童基金会(UNICEF)提出的儿童线上风险分类体系“5Cs”,将AI特有风险因素纳入新的检查清单。

自2018年发布“算法伦理宪章”以来,Kakao持续扩展其AI伦理体系。2022年,公司与主要关联企业共同成立AI与技术伦理小委员会,随后又引入集团通用的“负责任AI指南”、用户主体性原则及“安全AI核心检查清单”等机制。

Kakao AI与技术伦理小委员会委员长Kim Se-woong表示,在结合外部咨询团和内部组织视角后,公司已建立覆盖AI服务全生命周期的风险审查体系。随着AI自主性不断增强,Kakao还将进一步明确人的判断与责任,构建更值得信赖的AI服务。

关键词

#Kakao #AI智能体 #AI伦理 #SPIRIT #NORMA #隐私保护 #信息安全 #风险管理 #AI伦理检查清单 #儿童及青少年用户保护
版权所有 © DigitalToday。未经授权禁止转载或传播。