AI & Enterprise

韩国拟研究AI“紧急停止”机制 并推进前沿AI应对网络威胁

韩国政府表示，将研究引入由人类控制的AI“紧急停止”机制，以防范AI出现失控风险；同时依托正在研发的网络安全AI模型，并结合拟推进的前沿AI项目，提升网络威胁应对能力。针对AI安全领域预算和人力不足的质疑，政府称将扩大相关研究机构投入，并于12月公布《国家AI安全生态体系建设总体规划》。

AI & Enterprise

AI研发自动化或催生“智能爆炸”，研究人员警示能力跃升可能按月出现

多名AI研究人员警告，随着前沿AI公司推进研发自动化，AI能力可能出现快速跃升，甚至引发所谓“智能爆炸”。GovAI研究员Allan Chan表示，一旦AI能够自主开发未来的AI模型，研发迭代速度将进一步加快。论文作者据此呼吁政策部门加强对相关公司的了解，并推动建立嵌入式审计等约束机制。