随着生成式AI内容快速扩散，围绕媒体内容审议与监管体系调整的讨论正在升温。

11日，在首尔汝矣岛国会举行的“媒体·内容产业体质改善制度改革论坛”上，公共媒体研究所首席研究委员 Kim Heekyung 表示，随着海量新闻数据和信息类内容持续涌现，内容质量失控的风险已在现实中显现。进入AI时代后，传统审查体系无论在处理速度、覆盖规模还是技术能力上，都越来越难以有效应对。

Kim Heekyung 援引国际学术期刊《Frontiers》数据称，2024年AI生成虚假新闻网站数量较2023年增长10倍，新增超过1200个；2019年至2023年，深度伪造视频数量增长550%；北美地区深度伪造诈骗尝试增加2137%。与此同时，整体网络流量中约有50%来自机器人，其中30%至37%为恶意机器人。研究还显示，虚假新闻的传播速度是真实信息的6倍。即便事实核查时滞已缩短至15分钟，也仍足以让虚假叙事迅速成形并扩散。

以《广播法》等为基础的三轨审查体系，难以覆盖AI内容风险

目前韩国内容审议体系大致沿三条路径运行：一是依据《广播法》，由广播通信审议委员会实施事后审议；二是依据《信息通信网法》，对线上违法信息作出整改要求；三是依据《影像物等级委员会法》，对电影和视频内容进行事前分级。

其中，地面波电视适用较为严格的事前和事后审议机制；相比之下，OTT虽已于2023年引入自主分级制度，但实际制裁案例为零。Kim Heekyung 指出，从《信息通信网法》框架看，广播通信审议委员会理论上可对淫秽、暴力及有害青少年信息采取删除、屏蔽等措施，但现实执法重点更多集中于拦截实时网络直播中的淫秽内容及赌博网站，对OTT内容的实际约束几近空白。

研究指出，在现行监管框架下，AI内容治理面临的核心问题已经十分明确：审查速度跟不上内容生成速度。传统内容生产通常需要数天甚至数周，而AI生成只需数秒。她还提到，单一运营者即可借助数千个机器人账号批量生成数百万条帖文。

除速度失衡外，识别与责任认定同样困难。欧洲议会研究服务处（EPRS）指出，在AI生成的选举虚假信息中，超过50%已无法与真实新闻内容区分。一旦发生深度伪造事件，AI模型开发者、工具提供方、使用者、平台及二次传播者等会形成多层责任链条，导致执法对象和责任边界难以厘清。

生成与识别成本也严重失衡。Kim Heekyung 表示，制作深度伪造内容的成本通常不过数百美元，而检测成本可能高达数百万美元。自2017年深度伪造首次出现，到2024年已实现实时视频生成，技术演进速度极快，但相关立法进展仍滞后约5至7年。

专家建议按平台规模推进差异化自律，加快技术与规则协同治理

在AI内容治理方面，海外主要国家已陆续搭建监管框架。美国去年已有46个州推出与AI生成媒体相关的法案；今年1月，赋予非自愿深度伪造受害者最高25万美元诉权的《DEFIANCE Act》在参议院获得通过。欧盟则于2024年8月正式实施AI法案，在鼓励生成式AI创新的同时加强对深度伪造的监管。新加坡更倾向于借助“AI Verify”等验证工具推动行业自律，而非单纯强化刑事处罚。印度则制定了针对AI虚假内容的专项监管法律，并设立“事实核查中心”开展审查工作。

针对韩国现行制度，Kim Heekyung 提出多项改进方向，包括推动偏向性审计和数据集义务化，建立以规章为主、便于快速响应的灵活监管机制，引入C2PA等国际技术标准，强化媒体素养教育，并根据经营主体规模推行差异化自律。

她表示，大型企业应以透明度报告为核心推进自律；中小平台则可采用经民间审议协会认可的共同治理模式。与其纠结于“单一立法”还是“分散立法”，更关键的是能否形成更快的响应机制。

不过，她也提醒称，若通过修订《信息通信网法》扩大政府作为审查主体的权限，可能进一步加剧与言论自由之间的紧张关系。当前，“虚假”应由谁认定、依据何种标准认定，以及“讽刺”与“戏仿”的边界如何划分，仍存在较大争议。

Kim Heekyung 认为，形成于20世纪70至80年代、按媒介类型切分的传统监管方式，已无法应对“数秒生成、传播速度快6倍”的AI虚假信息。未来治理方向应是将技术建设、扩大自律、差异化适用和媒体素养教育结合起来，推动内容治理范式尽快转型。