韩国法律界有观点认为，现行法律体系尚未建立起针对人工智能（AI）安全威胁的实质性应对框架。尤其是在面对“MiTOs”这类能够自主发现漏洞并发起攻击的AI时，传统以“阻止入侵”为前提的安全监管思路已显得力不从心。

这一观点来自6月5日举行的“第2届AI法政策论坛”。本次论坛由Bae, Kim & Lee LLC、韩国信息通信法学会、韩国数据AI法政策学会和信息通信政策研究院（KISDI）联合主办。Bae, Kim & Lee LLC律师 Jung Sejin 在会上表示，针对AI风险，过去那种以封堵已知风险为核心的安全体系已难以奏效，监管范式需要转向以复原力和动态响应为核心。

随着生成式AI加速普及，借助AI实施的网络攻击也在迅速增加，完善安全监管的必要性随之上升。根据CrowdStrike发布的《2026全球威胁报告》，2025年AI驱动的网络攻击同比增长89%；攻击者在首次入侵后定位内部资产的时间已缩短至平均29分钟，最快仅需27秒。Jung Sejin 指出，在优质AI工具日益普及的情况下，只要愿意付费订阅并加以利用，几乎任何人都可能具备黑客式攻击能力。

但问题在于，现行制度并没有为这类威胁提供足够明确的法律依据。

其中一个核心问题是，现行制度对具备攻击能力的AI缺乏有效约束。根据《AI基本法》第32条，高性能AI经营者仅需向韩国科学技术信息通信部部长报送风险管理结果。也就是说，即使像“MiTOs”这样具备自主发现漏洞、生成渗透代码并实施网络攻击能力的AI系统被公开发布，现行制度下也缺少明确的阻断机制。目前，无论是独立评估机构的事前认证义务，还是对高风险模型发布的限制措施，都尚未建立。Jung Sejin 强调，是否纳入监管，不应只看算力（FLOPs），更应以实际攻击能力作为判断标准。

在Agentic AI可能引发的事故责任认定方面，现行法律同样缺乏清晰路径。以《个人信息保护法》为例，现行个人信息安全措施标准仍以“人”为制度设计前提，重点放在访问权限管理和登录记录保存等要求上。然而，AI代理即使没有员工直接指令，也可能自行查询数据库并向外部传输数据，而现有记录义务主要针对员工访问行为。换言之，即使发生泄露，事后也可能难以还原AI代理的具体操作过程；与此同时，AI开发商、使用企业与员工之间的责任边界也并不明确。Jung Sejin 表示，Agentic AI 可以自行扩展和转授权限，以人为基准设计的静态访问控制体系，已难以匹配这类技术特征。

“既然无法彻底阻断AI攻击，监管设计就应以复原力为中心”

Jung Sejin 以欧盟《数字运营复原力法》（DORA）为例指出，DORA要求金融机构定期开展贴近实战的强制性渗透测试，并根据测试结果落实后续整改措施。同时，相关制度还纳入了快速报告机制，以及恢复时间目标和恢复点目标的设定要求。其核心不在于“绝对防止入侵”，而在于遭遇入侵后“能够支撑多久、如何恢复”。

论坛还提出，安全监管应从静态要求转向动态响应。参照欧盟《网络与信息安全指令》（NIS2）的思路，监管不再停留于强制企业执行一套固定的安全措施清单，而是要求企业结合自身业务环境和威胁画像，建立能够持续调整的安全体系。其背后的逻辑是，AI能够以机器速度搜索未知漏洞，标准化、静态化的合规义务已难以覆盖这类风险。考虑到AI供应链往往涉及多家外部厂商，第三方风险治理也被认为是不可忽视的关键环节。

此外，与会观点还强调，监管思路应从“处罚导向”适度转向“激励导向”。对于已经建立常态化风险管理体系、运行漏洞报告和处置机制、并具备事前应对能力的企业，制度层面应给予相应激励。对于那些即便已采取充分措施仍然遭遇入侵的“善意失败（good-faith failure）”，也可考虑适当减轻处罚。Jung Sejin 认为，监管评价的重点应放在企业是否具备足够的应对能力，而不应仅以事故是否发生来简单定性。