AI政策相关示意图。图片来源:Shutterstock

韩国信息通信政策研究院(KISDI)近日发布报告指出,若要提升生成式AI竞争力,政策重点不能只放在产业扶持和公共部门应用推广上,还应转向个人用户,扩大实际使用人群。不过,从用户角度看,围绕安全、数据保护和伦理规范的制度建设仍显不足,这也在一定程度上制约了生成式AI的普及。

这份题为《生成式人工智能服务采纳先行因素探索性研究》的报告,由研究委员Ju Seonghee牵头完成。研究团队围绕2000名普通民众和34名专家,对生成式AI的使用行为及政策需求进行了分析。

报告认为,要在生成式AI领域提升竞争力,除了推动产业和公共部门加快应用,更关键的是扩大个人用户基础。

调查显示,62%的受访者正在使用生成式AI。其中,25.3%表示每天都会使用,37.2%为每周使用两到三次。在具体服务方面,ChatGPT使用率最高,达90.6%;Gemini以43.6%位居其后。就使用目的来看,“满足个人好奇心和获取知识信息”占比最高,为49%。

不过,与较高的使用热度相比,用户信任度明显偏低。仅44%的受访者认为生成式AI能够提供可信结果。另有33.8%的受访者表示,曾直接经历过“生成虚假信息、侵犯著作权、泄露敏感信息”等负面情况。统计结果显示,用户对结果的信任不足,是压低生成式AI使用频率的主要因素之一。

在有关“促进生成式AI活跃发展需要哪些政策”的调查中,受访者按优先顺序作答,按前三位合并统计后,“加强数据保护和伦理规范”以50.6%的占比位列第一,其中19.8%将其列为首要政策。其后依次是“开发降低副作用和风险的技术补救措施”(18.4%)和“加强对滥用行为的监管与处罚”(17.7%)。相比之下,“支持企业研发”等供给侧政策占比仅为0.1%。

从年龄层来看,10多岁、50多岁和60多岁的受访者,更倾向于将“降低副作用和风险的技术补救措施”列为首要政策;20多岁和30多岁群体则相对更重视“加强对滥用行为的监管与处罚”。此外,年龄越低,对“个人数据主权及补偿相关政策”的认同度越高。

报告指出,技术进步本身并未被公众视为生成式AI政策的优先事项。

在“政府对AI政策的应对是否恰当”的问题上,给出负面评价的受访者占26.4%,高于正面评价的23.2%;另有50.5%选择“一般”。平均得分为2.95分,略低于中性值3分。

在“AI政策决策过程中是否充分反映公民意见”的问题上,负面回答占32%,较正面回答的19.3%高出12.7个百分点,平均得分为2.84分。

专家群体也给出了相近判断。来自学界和公民社会的专家认为,2025年制定的《人工智能发展与信赖基础构建基本法》(AI基本法)整体上更偏重产业振兴,在用户保护以及伦理、安全保障方面仍显不足,因此有必要进一步细化可预期的具体指引和用户保护措施。

◆补充立法陆续出台,但直接面向用户保护的法案仍偏少

报告指出,第22届国会以来,围绕AI基本法实施的补充立法正在持续推进,但与用户最关注的“数据保护和伦理规范强化”直接相关的法案仍然不多。

据国会议案信息系统统计,今年提出的AI相关法案共有9项,其中直接涉及用户保护的仅有2项。其一是由Cho Kuk Innovation Party议员Jeong Chun-saeng牵头提出的AI基本法部分修订案,要求AI服务在医疗、法律、金融等专业领域提供结果时,必须明确告知“不能替代专家判断”,并对面向青少年的服务设置保护性技术措施。其二是People Power Party议员Lee Sang-hwi提出的法案,禁止毁损、伪造或篡改AI生成内容标识,违者最高可处3000万韩元罚款。

其余法案则主要集中在产业和基础设施层面。仅围绕数据中心建设和运营支持的特别法案就有3项,分别由议员Park Chung-kwon、Kim Jang-gyeom和Lee Hae-min提出。除此之外,相关法案还包括加强训练数据供给体系(Kim Hyun)、支持AI教育和素养提升(Heo Young、Kim Woo-young)、将就业环境变化应对纳入基本计划(Choi Eun-seok)等,整体上仍以产业振兴或基础设施支持为主。

报告认为,当前用户需求与立法方向之间的落差仍未缩小。报告强调,生成式AI的社会普及程度,与用户体验、用户信任以及保护机制建设高度相关,政策设计有必要从供给侧思路转向以需求侧、以用户为中心的框架。

关键词

#KISDI #生成式AI #AI政策 #用户保护 #数据保护 #伦理规范 #用户信任 #人工智能发展与信赖基础构建基本法 #立法 #数据中心
版权所有 © DigitalToday。未经授权禁止转载或传播。