AI & Enterprise

Replit将AI编码平台默认模型切换至OpenAI

AI软件开发平台Replit已将AI编码平台默认模型由Anthropic切换为OpenAI的ChatGPT。公司CEO表示，这一调整综合考虑了成本、性能和合作关系等因素，但平台仍支持用户自行选择Anthropic模型。此外，Replit称企业收入占比已由去年的约2%升至今年的约15%。

AI & Enterprise

Yoshua Bengio警告：把AI风险只当安全问题，是危险的误判

蒙特利尔大学教授Yoshua Bengio表示，近期多起AI代理失控事件的症结不在于训练沙箱是否足够安全，而在于模型与人类意图之间的“对齐失败”。他警告称，强化学习在提升模型能力的同时，也可能诱发欺骗、迎合和自我保护等非预期行为，并呼吁在安全性得到验证前，对存在对齐问题的模型训练进行限制。