韩国即将成为全球首个正式实施《AI基本法》的国家。根据新规，AI产品和服务提供者必须对AI生成内容进行明确标识，确保用户能够识别；原则上，事实调查仅会在造成人员伤亡、侵害人权或引发国家层面损害等重大情形下启动。

韩国科学技术信息通信部21日宣布，《人工智能发展与信赖基础建设基本法》将于22日起施行。欧盟虽已制定性质相近的《AI Act》，但预计要到2027年才全面实施，因此韩国将率先落地相关制度。

韩国科学技术信息通信部表示，这部法律的立法重点放在促进AI产业发展，并在“必要且最小化监管”的原则下，尽可能压缩企业义务和制裁范围，同时将更多内容用于产业扶持。

AI生成内容须标识，站外导出内容要求更严格

根据施行令，企业可通过多种方式向用户提示相关内容由AI生成。对于仅在服务内展示的内容，以及可下载、可分享至站外的内容，监管要求将有所区分。

对于仅在服务内呈现的AI生成内容，企业可通过界面提示、展示Logo等方式进行标识。例如，聊天机器人等对话式服务，可在用户使用前作出提示，或在界面中显示相关标识；游戏和元宇宙服务，则可在登录阶段提示，或直接在角色上标注其为AI生成。

如果AI生成内容可被下载或分享至站外，则需采用更明确的标识方式。对于文本、图片、视频等内容，原则上应使用用户可直接感知的标识方式，例如可视或可听水印；或者在提供文案说明、语音提示后，再辅以元数据等机器可识别标识。

其中，对于AI生成内容，尤其是可能引发社会风险的深度伪造内容，应结合用户年龄等因素，采取清晰、易识别的标识方式。对于不属于深度伪造的AI生成内容，如动画、网络漫画等，除可视标识外，也允许采用不可见数字水印。

“高影响AI”覆盖10类重点领域

《AI基本法》同时引入“高影响AI”制度。所谓“高影响AI”，是指被用于法律规定的10类重点领域的AI系统，涵盖能源、饮用水、医疗、核能、犯罪侦查、招聘、贷款审查、交通、公共服务和教育等与生命、安全及基本权利密切相关的领域。

施行令进一步细化了高影响AI的认定标准以及相关企业的责任。具体认定时，将综合考虑AI是否被用于法定领域、风险严重程度等因素；如果最终决策环节有人类实质介入并能实施有效控制，则可被视为风险可控，不纳入高影响AI范围。

法规还设置了安全保障义务，目的在于假设高度发达的AI出现失控情形时，尽可能防止重大损害发生。适用该义务的对象需同时满足多项条件，包括训练累计计算量达到或超过10的26次方次浮点运算（FLOPs）、采用最前沿技术，且相关风险可能对人的基本权利造成广泛而重大影响。

在透明度义务方面，法规明确，责任主体是直接向用户提供AI产品和服务的“AI业务者”。面向韩国用户提供相关产品和服务的海外企业，也在适用范围内；普通用户仅为既有产品、服务及生成内容的使用方，不属于义务承担主体。

将设至少1年监管缓冲期

为尽量减少企业混乱并预留准备时间，韩国科学技术信息通信部将设置至少1年的监管缓冲期。在此期间，就事实调查和行政处罚将同步实行指导期安排。韩国科学技术信息通信部强调，事实调查原则上只会在出现人员伤亡、侵害人权等重大社会问题的极少数情况下启动。

对于透明度义务、安全保障义务、高影响AI认定标准以及企业履责方式等内容，相关企业可通过当天发布的透明度指南进行确认。韩国科学技术信息通信部表示，将在监管缓冲期内持续补充和完善指南，以降低制度适用的不确定性。

此外，为帮助企业做好制度准备，韩国科学技术信息通信部还将设立支持服务台，由参与配套法规制定的专家提供更细化的咨询服务。为防止商业秘密泄露，相关咨询内容将实行保密管理，并支持匿名咨询。

随着《AI基本法》正式施行，国家AI战略委员会也将由原先依据总统令设立的机构，转为具有法律依据的法定委员会。该法同时为国家AI战略委员会的法律基础、分科机构、支援团以及AI责任官等制度安排提供依据。

在产业扶持方面，施行令进一步细化了法律所规定的支持事项和程序，包括AI研发、训练数据建设、AI导入和应用支持、创业扶持、AI融合促进、专业人才培养以及AI数据中心建设支持等。

韩国科学技术信息通信部人工智能政策室室长Kim Kyung-man表示，在这条前所未有的道路上，韩国将以全球讨论中的最低共识为参照，制定最小必要的规则；《AI基本法》并非单纯以监管为目的，而是为韩国企业未来进入全球市场对接基础标准。