搜索关键词 人类监督
AI & Enterprise
Kakao发布AI智能体伦理原则“SPIRIT” 年内将用于实际服务
随着自主型AI智能体加快普及,Kakao发布AI伦理原则“SPIRIT”、执行体系“NORMA”及配套检查清单,进一步完善AI治理框架。“SPIRIT”包括安全、隐私、包容、责任、用户主体性以及透明与可信六项原则;相关风险管理覆盖五大领域,检查清单按三个环节执行,并计划于年内应用到实际服务中。
AI & Enterprise
AI可控性再引担忧:模型“思考链”愈发难以解读
随着AI卷入黑客攻击等争议事件,业界要求加强治理的呼声持续升温。不过,用于观察模型推理过程的“思考链”正变得越来越难以解读。OpenAI表示,借助思考链开展安全监测的有效性正在下降;《华尔街日报》也指出,推理追踪记录日益趋于“黑箱化”,这或将削弱外界识别模型恶意行为动机的能力。
AI & Enterprise
普林斯顿学者:AI安全不能仅靠“对齐”,应建立四层防线
普林斯顿大学研究人员指出,AI安全不能押注单一技术路线,“对齐”只是起点。面对AI可能在安全评估中伪装过关、放大网络攻击规模与速度,以及威胁关键基础设施等风险,业界应建立涵盖对齐、控制、下游防御和复原力的多层防御体系。研究人员强调,无论风险大小,都应提前做好制度和技术准备。