Scatter Lab标识

Scatter Lab于17日宣布,已为AI角色聊天服务Zeta成立由CEO直接负责的“信任与安全团队”,以进一步加强用户保护。

据介绍,该团队将由Scatter Lab CEO Kim Jong-yoon直接统筹,负责内容安全政策、安全模型开发及内容审核等工作。公司计划把核心AI研发力量中的一半投入对话安全和内容审核模型开发。

Scatter Lab表示,计划在年内升级自研AI模型和内容审核体系,细化用户分级,并按年龄段完善保护机制。平台内的创作内容“Plot”将分别在制作、上线和展示三个阶段接受审核,同时进一步强化年龄验证流程,向用户提供与其年龄相匹配的内容。

在模型安全方面,公司还将加强自研AI模型的安全护栏,降低用户在与AI互动过程中接触不当言论的风险。Zeta目前采用的是Scatter Lab自研、针对故事生成优化的语言模型“Spotwrite”。此外,平台还将新增定期提醒功能,提示用户当前正在与AI互动。

针对韩国青少年用户,Scatter Lab计划在年内推出单日使用时长上限3小时、月度支付限额10万韩元等功能。同时,公司也在开发敏感内容识别能力;当系统检测到涉及自杀、自残的内容时,将向用户提供相应引导。

Kim Jong-yoon表示,公司将从政策、技术和运营层面进一步完善保护体系,打造更安心的AI娱乐使用环境。

关键词

#Scatter Lab #Zeta #信任与安全团队 #青少年保护 #内容审核 #对话安全 #年龄验证 #单日使用时长上限 #月度支付限额 #Spotwrite
版权所有 © DigitalToday。未经授权禁止转载或传播。