KakaoBank表示，随着生成式AI在金融行业加快应用落地，公司金融技术研究所今年上半年共有4篇AI研究论文被ICLR、ACL、LREC等国际学术会议接收，研究重点集中在金融AI的安全性与可靠性。
从具体方向来看，相关研究涵盖提示注入攻击检测、金融数值计算错误识别以及金融AI安全评估等，整体上更强调面向金融场景的实际应用。
其中，在4月举行的ICLR 2026上，KakaoBank公开了一项面向金融、法律等专业领域生成式AI的提示注入攻击检测研究。该方法基于KakaoBank与KAIST联合构建的约5.9万条数据构建的数据集，可用于识别恶意内容注入和绕过类攻击。
在5月举行的LREC 2026上，KakaoBank发布了两项研究成果，分别涉及提示攻击检测技术，以及复杂金融数据处理过程中的数值计算错误识别技术，旨在提升金融场景下AI模型的安全性和准确性。
此外，在ACL 2026产业分论坛上，KakaoBank与KAIST联合开展的一项金融AI安全评估研究也获得接收。该研究提出了AI安全评估标准，并总结了金融领域可能出现的风险类型，包括语音钓鱼、金融诈骗和个人信息窃取等，同时开发了引导金融AI模型规避危险回答的训练技术。
KakaoBank表示，相关研究不仅具有学术价值，也可直接用于提升金融AI服务的安全性和准确性。公司今后将继续推进面向金融环境的AI安全及相关技术研究。
记者信息
Ji-young Lee
ljy@d-today.co.kr