KAIST入选微软全球AI安全研究项目“External Red Teaming Alliance（EXTRA）”，成为韩国高校中唯一获选的高校。
KAIST于28日表示，校内计算机科学系Samuel Son教授团队入选微软AI红队负责的EXTRA研究资助计划。
EXTRA是微软今年启动的研究支持项目，联合全球高校和研究机构，对AI系统的安全漏洞、滥用风险以及对齐问题开展评估与验证。包括KAIST在内，来自六大洲的十余所高校参与该项目。
根据安排，KAIST将获得2.5万美元（约3700万韩元）研究资助，用于AI安全防护和负责任AI相关技术研究。
Samuel Son团队将重点围绕生成式AI和大语言模型开展研究，涵盖模型窃取、隐私数据提取、提示注入等攻击方式及相应防御技术，并开发适用于真实服务环境的技术方案，以提升Web Agent、Agentic Browser等场景中AI代理的安全性和可信度。
Samuel Son表示，团队将系统分析真实AI服务环境中可能出现的安全威胁，并为构建让用户能够放心使用的AI技术作出贡献。
记者信息
Jin-ho Lee
jhlee26@d-today.co.kr