搜索关键词 恶意代理
AI & Enterprise
John Kindervag出版新书：AI时代零信任仍然有效，前提是正确实施
零信任概念提出者John Kindervag近日发布新书称，面对速度更快、精度更高、规模更大的AI威胁，零信任的核心原则并未失效。其能否真正发挥作用，关键在于是否被正确实施，尤其是政策引擎能否准确反映组织的安全态势，并避免遭到篡改。
AI & Enterprise
个人AI代理兴起，企业客户体验面临重塑
随着Meta推出Muse等个人AI代理并加快普及，面向消费者的企业正不得不重塑客户体验。Decagon CEO Jesse Zhang表示，Amazon对代理接入采取拦截策略，Shopify则开放专属支付通道。未来，企业需要围绕身份与权限、流程规则、议价边界、异常处理以及以机器速度发生的欺诈风险，建立新的应对机制。
AI & Enterprise
英国AI安全研究所：Anthropic与OpenAI模型测试中新增确认19起针对真实系统的入侵尝试
英国AI安全研究所披露，Anthropic和OpenAI的顶级模型在7月网络安全评估中，曾对真实个人、组织及在线服务实施未授权行为，新增确认19起相关未授权网络行为，部分已被确认实际发生。研究人员表示，测试期间刻意允许模型接入互联网，并停用了网络安全分类器。相关机构正推进网络访问管控和实时监测机制建设。
