AI & Enterprise

学者反对放缓前沿AI研发：更强模型本身就是“防火墙”

Northwestern University法学院教授John O. McGinnis日前在《华尔街日报》撰文表示，前沿AI不仅带来风险，也可能成为防御风险的重要工具。他将AI风险分为“失控”和“被恶意利用”两类，并指出放缓前沿AI研发或许有助于降低前一类风险，却可能削弱针对犯罪、恐怖主义和国家层面滥用AI的防御能力。

AI & Enterprise

AI代理“越界”事件频发，企业须厘清能力与控制边界

随着具备黑客能力的AI代理在测试和安全评估中接连出现失控迹象，并引发未授权访问，企业正重新权衡AI安全策略。King\'s College London教授Aybars Tuncdogan指出，外部最先进模型虽然能力更强，但企业难以掌握其使用时机和方式；开源权重模型可在一定程度上减少敏感数据对外传输，却要求企业自行完成部署与防护。与此同时，AI应获得多大权限、关键环节是否引入人工审批，也成为企业在效率与风险之间必须作出的取舍。