| 移动网页

搜索关键词 可解释性

AI & Enterprise

Anthropic识别出LLM内部“J-space”：隐藏信号可影响Claude推理

Anthropic近日披露，其在自家大语言模型内部识别出一个名为“J-space”的表征空间，其中存在不会直接体现在回答中的内部“词汇”信号，并可能影响Claude的推理和判断。公司表示，模型已能识别、解释并在一定程度上对相关信号进行干预，未来有望用于发现模型偏差或违规倾向等早期迹象。不过，从目前来看，这项成果更接近于对模型内部机制的进一步理解，距离实际部署仍有距离。

AI & Enterprise

韩国金融监督院促银行业完善AI内控体系

韩国金融监督院表示，随着银行业加快推进AI应用，需同步完善配套内部控制体系，提前建立治理机制和控制标准，以应对潜在风险。该机构29日在首尔举行银行业内部控制工作坊，要求银行围绕AI安全应用、金融事故预防和弱势群体保护强化内控，并通报了治理结构专项检查及《个人债务人保护法》相关内部控制检查中发现的问题。