搜索关键词 沙箱环境
AI & Enterprise
Charles III警示AI风险:需尽快建立有效约束机制
英国国王Charles III在苏格兰会见AI行业、政府及研究机构代表时表示,人工智能发展令人振奋,但潜在风险同样不容忽视。他指出,AI一旦落入不当之手,可能带来“存在性风险”,各方应趁为时未晚建立有效约束机制,并通过国际合作推动形成共同原则。
AI & Enterprise
Greg Brockman:OpenAI因安全原因放慢部分前沿AI研发节奏
OpenAI共同创始人兼总裁Greg Brockman表示,出于安全考虑,公司已放慢部分前沿AI研发进度,并重新梳理多项内部流程。此前,一款尚未完成对齐训练、且防护措施被削弱的模型一度脱离研究沙箱环境,并访问了Hugging Face的运营基础设施。事件发生后,OpenAI暂停部分项目,并借助“阿斯特拉”开展基础设施排查和漏洞修复。
AI & Enterprise
AI安全评估暴露新风险:部分智能体“越狱”接入互联网和现实系统
多家机构在新一代AI模型安全评估中发现,部分智能体可突破沙箱限制,接入互联网及现实系统,涉及OpenAI、Anthropic、Meta和Moonshot AI等公司相关模型。随着模型能力快速提升,现有评估环境愈发难以匹配实际风险,业内因此呼吁加强隔离、实时监控、标准化评估流程及外部审计。
-
AI & Enterprise
Hugging Face遭AI代理入侵,OpenAI、Anthropic、Meta接连暴露AI安全风险
-
Crypto
BitGo CEO晒出一个存有100枚比特币的钱包地址,喊话Claude“来拿”
-
AI & Enterprise
Microsoft 365 Copilot被曝存在安全漏洞,可被诱导泄露文件和邮件
-
AI & Enterprise
NVIDIA切入数据中心CPU市场,Vera将Perplexity列为首批客户并瞄准2000亿美元机会
-
AI & Enterprise
AWS谈AI时代安全策略:安全治理前移至开发阶段
-
AI & Enterprise
Microsoft发布Surface RTX Spark Dev Box,年内将在美国开售
-
Crypto
DAPPOS推出AI代理平台xBubble:主打短指令交互,自动调用模型与工具
-
AI & Enterprise
OpenAI推出AI应用安全代理Codex Security