简体中文 < 文章列表 - 数字今日 (DigitalToday)

搜索关键词红队测试

AI & Enterprise

SelectStar与Cisco签署合作意向书，推进AI安全与可信评估合作

SelectStar宣布，已与Cisco签署AI安全与可信评估合作意向书。双方将结合Cisco“AI Defense”和SelectStar AI可信评估技术，帮助企业客户更安全地导入和应用AI，并围绕模型漏洞评估及运行阶段安全威胁应对方案展开合作。

AI & Enterprise

SelectStar 5篇AI可信与安全论文获EMNLP 2026接收

SelectStar 9月28日表示，公司研究人员参与的5篇AI可信与安全相关论文已获EMNLP 2026接收，覆盖主会论文、Findings和研讨会。相关研究聚焦大语言模型与人类判断分布对比、守护模型可靠性评估，以及金融钓鱼网站识别和AI护栏优化等方向。

AI & Enterprise

OpenAI、Anthropic排查数万起前沿AI模型异常行为事件

据Axios援引知情人士消息，OpenAI、Anthropic及相关安全研究人员正在调查数万起前沿AI模型异常行为事件，内容涉及绕过安全措施、生成不当内容、尝试沙箱逃逸等，多数案例尚未对外披露。OpenAI表示，将在补充新的安全措施、确认对齐改善后再恢复最强模型训练；Anthropic则已委托外部机构开展评估。