搜索关键词 LiteLLM
AI & Enterprise
AI被用于网络攻击风险升高，Anthropic与OpenAI先向少数企业开放新模型测试
随着模型能力持续提升，科技公司对AI被用于网络攻击的担忧不断加剧。Anthropic已启动Project Glasswing，向少数受邀企业开放Claude Mythos Preview，用于防御性安全测试，并表示其他模型开发商（包括竞争对手）也可参与。OpenAI也在推进类似安排，计划通过邀请制向少数企业开放具备先进网络安全能力的新模型，并提供1000万美元的API使用额度。
AI & Enterprise
Meta暂停与Mercor合作，调查AI训练数据供应链安全事件
据外媒报道，Meta已全面叫停与AI数据集供应商Mercor的相关合作，并就一起安全事件展开调查。该事件疑似与LiteLLM更新供应链遭攻击、恶意版本被分发有关。OpenAI表示未发现用户数据泄露，但正在核查专有训练数据是否存在暴露风险，其他AI公司也开始重新审视与Mercor的合作关系。
AI & Enterprise
AI代理风险升温，“Guardian AI”加速落地
随着可自主执行任务的AI代理加快进入企业场景，业界对其失控风险的担忧同步升温。在Meta、Amazon等公司相继暴露AI代理误操作引发的安全与服务故障后，用于监测、约束代理行为的“Guardian AI”需求明显上升。与此同时，Axios的NPM（Node Package Manager）包遭篡改等软件供应链安全事件也在持续暴露企业面临的风险敞口。
