搜索关键词 AI安全测试
AI & Enterprise
Microsoft总裁:AI监管甚至不如牛奶和洗衣机严格
Microsoft总裁Brad Smith公开批评AI监管缺位,称相关技术已足以对企业和政府系统安全构成威胁,但现有约束力度甚至还不如牛奶和洗衣机。在美国政府与AI行业围绕监管方向分歧持续之际,他表示,英国或有机会在全球AI治理讨论中提升影响力。
Finance
韩国金融委员会启动第二轮网络隔离监管临时放宽,对象扩大至第二金融圈和电子金融机构
韩国金融委员会启动第二轮网络隔离监管临时放宽措施,进一步扩大金融业AI安全测试覆盖范围。此次适用对象由大型金融机构扩展至第二金融圈和电子金融机构,可申请机构增至75家,最终最多遴选15家。韩国金融委员会将于9月完成审核,并在10月7日前后公布名单;入选机构可获得为期1年的不予处罚意见。
AI & Enterprise
KAIST推出LLM红队新框架,漏洞类型识别能力提升约7倍
KAIST研究团队发布面向大语言模型安全测试的红队框架Stable-GFlowNet。该框架通过引入“对照轨迹平衡”等机制提升训练稳定性,在将攻击成功率维持在92%的同时,识别出134种攻击类型,较现有方法的17种提升至约7倍。基于该框架训练的防御模型在交叉攻击测试中也展现出更好的防护能力。