搜索关键词 大语言模型安全
AI & Enterprise
Team Naver亮相ICML 2026，集中展示大语言模型安全与物理AI研究成果
Team Naver在首尔COEX举行的ICML 2026上集中展示多项AI研究成果，涵盖大语言模型安全、模型与智能体运行效率，以及3D空间理解与物理世界扩展等方向。其中，基于Stable-GFlowNet的大语言模型红队测试研究入选Spotlight；SyMerge、FlowBot和“Seoul World Model”等项目也同步亮相。
AI & Enterprise
Selectstar“StarTeaming”论文入选ACL 2026
AI数据与可信评测企业Selectstar宣布，其自研红队评测技术“StarTeaming”相关论文已被ACL 2026接收。该研究提出一套用于评估大语言模型安全性的自动化红队方法，在17款模型上的平均攻击成功率达到74.5%，并已集成至Selectstar的AI可信验证解决方案“Datumo平台”，应用于相关行业及政府主导项目。
AI & Enterprise
OpenAI收购Promptfoo，补强LLM与AI代理安全能力
据TechCrunch报道，OpenAI已收购AI安全初创公司Promptfoo，交易条款暂未披露。Promptfoo成立于2024年，专注于大语言模型安全防护。OpenAI计划将其技术整合至AI代理平台“OpenAI Frontier”，以提升AI代理在自动化安全检测、工作流评估、风险监测及合规支持方面的能力。