搜索关键词 AI安全评估
AI & Enterprise
韩国科学技术信息通信部与KISA发布AI安全红队演练指南
韩国科学技术信息通信部与韩国互联网振兴院（KISA）联合发布《AI安全红队演练指南》，围绕提示注入、越狱、模型幻觉、代理劫持等生成式AI主要风险，提出面向企业的一线实践指引。指南同时将评估范围扩展至数据、训练链路、UI、系统提示词、API及基础设施，旨在推动行业建立常态化AI红队机制。
Fintech
KakaoBank多篇金融AI安全论文入选ICLR、ACL等国际学术会议
KakaoBank表示，旗下金融技术研究所今年上半年共有4篇AI研究论文被ICLR、ACL、LREC等国际会议接收，研究方向涵盖提示注入攻击检测、金融数值计算错误识别和金融AI安全评估等，并与KAIST联合构建了约5.9万条数据构建的数据集。
AI & Enterprise
OpenAI推出“部署仿真”评估方法：提前预测模型部署风险
OpenAI发布一项名为“部署仿真”的安全评估方法，在新模型正式发布前，借助旧模型模拟其部署后的真实服务环境，以提前识别潜在风险行为及其滥用路径。该公司表示，这一方法对多数攻击风险的预测更为准确，同时可显著降低模型识别测试环境的概率。
