搜索关键词 人工审阅
AI & Enterprise
企业AI智能体加速落地,监督负担上升催生“疲劳感”
随着越来越多企业将AI智能体用于客服、研发等环节,一线员工感受到的首先不是效率红利,而是更重的管理负担。多名受访者表示,AI智能体上线后仍需持续监控、反复校准并复核结果,任务切换也更频繁。BCG数据显示,已有30%的企业将AI智能体纳入业务流程,但对人工监督的高度依赖,正带来疲劳、责任划分和合规治理等新压力。
AI & Enterprise
OpenAI内部项目“Project Lily”曝光:人工审阅ChatGPT真实对话做评估
据报道,OpenAI正通过内部项目“Project Lily”评估ChatGPT回答质量,数百名合同人员会阅读真实用户对话并进行打分。公司称会借助隐私过滤器屏蔽姓名、地址等个人信息,但罕见姓名及部分上下文相关信息仍可能漏检。用户可在“设置-数据控制”中关闭“为所有人改进模型”,降低之后的新对话被用于模型训练的可能性。
AI & Enterprise
OpenAI预发布Private Safety Processing:不留存对话数据也可识别跨会话滥用
OpenAI已向部分企业客户预发布Private Safety Processing。该机制在不留存客户数据的前提下,可关联多个会话识别风险模式和滥用信号;系统仅向OpenAI回传经过严格限定的风险信号,且不会人工直接查看用户对话。此举也与Anthropic允许部分模型保留用户会话30天的做法形成对比。