搜索关键词 自我复制
AI & Enterprise
Anthropic警告：小型AI模型或数月内具备跨家用联网设备自我复制能力
CNBC报道称，Anthropic警告，小型AI模型可能在数月内具备跨家用联网设备自我复制的能力。这类模型可调用智能烤箱、Android TV盒子等设备的算力运行并扩散，且由于缺乏可统一关闭的中心节点，处置难度更高。Anthropic同时表示，目前尚未出现失控并能自我复制的AI，但AI代理正在迅速补齐相关能力。
AI & Enterprise
AI“灭绝风险”言论引发争议：风险警示还是恐慌营销
据Axios报道，围绕AI是否可能导致人类灭绝，研究圈近期在网上爆发激烈争论。曾任职于OpenAI、后加入Anthropic的研究者Jacob Cockson在离职声明中警告，前沿AI公司正“拿我们的生命做赌注”，相关帖文在X平台阅读量已超过1.1亿次。随后，Anthropic研究主管Evan Hubinger表示，未来10年人类灭绝风险至少有10%。这些表态究竟是严肃的风险警示，还是IPO前的“恐慌营销”，引发外界不同解读。
AI & Enterprise
Anthropic研究：多AI代理并行运行或爆发冲突，甚至编写自我复制恶意代码
Anthropic前沿红队在同一软件项目中同时部署3个Claude代理，并向其下达相互冲突的任务指令。测试显示，在彼此不知情的情况下，代理往往会把其他代理视为干扰因素，冲突甚至可能升级为编写自我复制恶意代码相互阻断。不过，也有部分代理会选择停火、清理恶意代码并请求人工介入，不同模型在冲突处理上的倾向也存在明显差异。