SK Shieldus于6月15日宣布，公司白帽黑客团队EQST成员Kim Byeonghyeon在全球AI红队大赛“Judgement Day”中夺得冠军。
据SK Shieldus介绍，“Judgement Day”主要测试针对AI代理的攻击能力，重点在于参赛者能否诱导AI执行被禁止的行为，或使其忽略必要的安全措施。
本届赛事共设置8个贴近真实工业环境的场景赛题，包括应急患者分诊失误、大坝水位误判、航空异常迹象漏检等。
评测不仅看是否成功完成攻击，还综合考察解题效率、攻击方式以及策略的多样性。针对同一场景，参赛者可以反复尝试不同方法，达成目标的速度越快，得分越高。
SK Shieldus表示，Kim Byeonghyeon通过多模态提示注入（Multimodal Prompt Injection）攻击，利用图片、语音、视频等多种模态输入干扰AI决策，最终取得最高分。
同为EQST成员的Ma Junyeong和Kim Sinwoo分别获得第5名和第7名。
Kim Byeonghyeon表示，此次比赛让团队在实战环境中验证了干扰AI判断的攻击可能性，相关成果也有望进一步推动AI安全研究。他还称，团队长期投入已开始显现成果，未来将持续开展针对新型AI威胁的研究。
SK Shieldus网络安全业务负责人（副社长）Kim Byeongmu表示，随着生成式AI在各行业加速普及，AI安全正在从“可选项”转变为“必备能力”。SK Shieldus将以此次大赛中验证的AI红队能力为基础，积极支持客户更安全、更可信地使用AI。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr