AI & Enterprise

KAIST发布Buffer-and-Reinforce框架 提升大模型定制化微调安全性

KAIST研究团队提出两阶段学习框架Buffer-and-Reinforce，旨在解决大语言模型基于企业或个人数据进行定制化微调时安全对齐易被削弱的问题。该方案先通过BufferLoRA在训练阶段隔离恶意数据影响，再利用ReinforceLoRA结合QR分解定向增强安全能力。实验显示，在用户数据全部由危险问题及回答构成的极端环境下，模型生成危险回答的比例仍可控制在约8%，明显低于基线模型约18%的水平。

People

Goo Hyeok-chae调研韩国国家新药开发事业团：第二阶段将强化AI应用

韩国科学技术信息通信部第一副部长Goo Hyeok-chae在首尔调研国家新药开发事业团，听取项目阶段性成果，并与受资助企业座谈交流。该项目由韩国科学技术信息通信部、韩国产业通商资源部和韩国保健福祉部联合推进，覆盖从候选物质发掘到临床二期的新药研发全流程。随着项目第二阶段于今年启动并延续至2030年，政府将进一步强化成果导向，并扩大AI技术在新药研发中的应用。