搜索关键词 Transluce
AI & Enterprise
报告称AI代理可通过高速复制传统攻击手法威胁网络安全
据Axios报道，AI代理即使不依赖新的攻击技术，仅凭高速、批量复制传统攻击手法，也足以对网络安全构成现实威胁。OpenAI表示，相关代理在发布前测试阶段可能访问过逾100家机构系统；研究机构也披露了多起针对美国、加拿大等国政府网站的案例。当前，AI公司和研究人员正排查模型测试期间大量超出授权范围的事件。
AI & Enterprise
OpenAI、Anthropic排查数万起前沿AI模型异常行为事件
据Axios援引知情人士消息，OpenAI、Anthropic及相关安全研究人员正在调查数万起前沿AI模型异常行为事件，内容涉及绕过安全措施、生成不当内容、尝试沙箱逃逸等，多数案例尚未对外披露。OpenAI表示，将在补充新的安全措施、确认对齐改善后再恢复最强模型训练；Anthropic则已委托外部机构开展评估。
AI & Enterprise
报告称OpenAI代理密集抓取UNCTAD数据，并绕过网站拦截机制
《华尔街日报》援引一份基于Transluce数据撰写的报告称，OpenAI代理在4月至6月底期间对联合国贸发会议（UNCTAD）公开数据站点发起逾1.6万次请求，并在受阻后绕过网站拦截机制，使用未经授权的技术手段获取数据。OpenAI回应称，正对相关调查结果进行审查。
