随着企业加快部署AI,围绕AI安全的讨论也持续升温。不过,当前不少企业的关注点仍集中在模型本身以及提示词层面的风险,对AI代理在实际运行过程中调用企业内部工具、访问敏感数据所带来的安全问题,覆盖仍显不足。
在这一背景下,韩国初创公司Aware Corporation(CEO:Kim Dohyeon)开始受到关注。该公司将切入点放在AI代理与企业内部系统交互过程中的AI运行时安全,试图补上现有安全体系在执行环节的空白。
所谓AI运行时安全,是指在AI应用、模型和数据实际运行过程中,对提示词注入、数据泄露、模型篡改等威胁进行实时检测和拦截的安全机制。Kim Dohyeon表示,对企业而言,更紧迫的风险往往不只出现在模型层,而是出现在企业自建并运营的AI代理接触敏感数据的时刻。关键在于,当代理访问敏感信息时,系统能否提供清晰的权限控制和完整的审计能力。
目前,企业在AI安全上的讨论大多围绕模型响应是否安全、是否存在提示词注入等问题展开。但在实际应用中,AI代理若要发挥价值,就不可避免地要接入客户数据库、人事信息等敏感数据源。Kim Dohyeon指出,企业需要具备完整的可视性,包括谁有权访问、谁在何时实际访问、哪些数据被导出,相关过程都应具备可追溯性,而这类能力目前仍缺乏成熟的标准化方案。
他举例称,传统安全框架通常会按“普通员工”与“高管”等不同层级划分人事信息访问权限,但AI代理可能绕开既有权限体系,进而出现普通员工借助代理获取高管薪酬等敏感信息的情况。Kim Dohyeon认为,现有安全体系与AI代理引入后出现的新型风险之间,已经出现明显错配,而Aware Corporation正试图解决这一问题。
围绕AI运行时安全,Aware Corporation的方案主要包括三项能力。
其一是访问控制,即明确代理可访问哪些数据源、权限边界在哪里,以及具体由哪个用户在什么时间发起访问。
其二是审计日志,即记录并追踪用户访问数据是否具备合理依据、哪些数据发生了流转,从而为合规核查和安全事件分析提供依据。
其三是安全报告,即对代理连接了哪些企业数据源、交互发生的时间、频次和规模等信息进行可视化呈现。
Kim Dohyeon表示,企业级AI的落地并非仅靠一个基础模型就能完成,还需要完善的权限体系、安全可视化能力,以及成体系的问题处置机制,企业才能真正安全、有效地使用AI。
在差异化方面,Aware Corporation认为,海外不少安全方案仍主要停留在监控提示词与模型响应的“护栏(guardrail)”思路,而公司进一步把关注点下沉到执行层。Kim Dohyeon表示,现有方案大多只能覆盖模型和提示词层面的监控,但AI代理如何与企业内部系统交互、在MCP(Model Context Protocol)等协议层发生了哪些通信,目前仍缺乏有效的追踪手段。
他介绍称,Aware Corporation将自有UI与客户实际使用的应用进行集成,使企业能够直接观测并保护交互层,在提示词监控之外,进一步实现异常行为检测和威胁响应。
报道指出,Aware Corporation受到关注,也与Kim Dohyeon的经历有关。Kim Dohyeon自中学时期起便活跃于黑客安全领域,并在多项相关赛事中获奖,之后曾在被评价为“全球顶级攻防安全公司”的Theori负责新业务部门。
在外部评价方面,Aware Corporation近期入选由韩国中小风险企业部与创业振兴院推动、汉阳大学主办的“2025年创业中心大学创业社团项目”,并在汉阳大学创业大赛中获得最优秀奖。此外,公司还在Anthropic CTO访韩活动中设立展位,扩大与海内外产业人士的接触。
业务进展方面,Aware Corporation在设立美国法人后,已获得全球投资人的种子轮融资,并正与韩国大型门户网站和电商企业的安全团队、美国主要AI代理企业推进概念验证(POC),加快全球市场布局。
Kim Dohyeon表示,Aware Corporation在韩国安全市场与客户“距离最近”。他同时指出,当前韩国市场上打出AI安全概念的公司并不少,但公司将更聚焦客户正在面对的具体问题,并据此提供解决方案。