韩国科学技术信息通信部与韩国互联网振兴院（KISA）7月8日发布《AI安全威胁应对手册》和《AI安全红队测试指南》，以提升AI服务安全风险应对能力，并加强一线安全排查水平。
随着AI技术加快渗透至各类产业和服务场景，提示注入、权限滥用、数据泄露等新型安全风险也随之增加，围绕AI服务的安全治理需求持续上升。
在这一背景下，针对AI系统从攻击者视角识别漏洞并制定应对措施的“AI红队”重要性日益凸显。所谓AI红队，是指通过有意诱导模型产生异常或不当行为，发现潜在漏洞和风险的测试与验证方式。
此次发布的两份文件系统梳理了AI环境下可能出现的主要安全威胁及典型案例，侧重提供可直接用于实务场景的一线排查和处置方案，同时明确AI红队的实施方法。
其中，《AI安全威胁应对手册》涵盖AI安全威胁分类与诊断、分行业威胁场景以及按威胁类型划分的应对措施等内容。手册还对数据威胁、模型威胁、智能体威胁、供应链威胁和高性能模型威胁等AI特有风险进行分类，并给出更具操作性的处置建议。
《AI安全红队测试指南》则面向计划开展AI红队工作的实务人员编制，属于政府层面的指导文件。其内容依据AI红队测试国际标准草案ISO/IEC 42119-7制定，旨在与国际规范接轨。
该指南覆盖从红队规划与组建、测试准备、测试实施到结果报告的全流程，同时纳入测试检查清单、评估工具以及红队成员岗位职责说明等内容。韩国科学技术信息通信部表示，指南在编制过程中吸收了相关方意见，并经过学界专家咨询，以进一步提升一线适用性和专业性。
韩国科学技术信息通信部信息保护网络政策官Lim Jeong-gyu表示，随着AI技术扩散加快，相关安全威胁也在迅速演变，期待此次发布的指南能够提升AI服务安全水平，并成为一线可直接采用的工作标准。
记者信息
Jin-ho Lee
jhlee26@d-today.co.kr