搜索关键词 AI安全研究机构
AI & Enterprise
Scott Wiener当选美国众议员,主张设立联邦AI监管机构
长期推动加州AI监管立法的Scott Wiener当选旧金山选区美国众议员,被视为联邦AI政策讨论中的重要人物。他警告AI技术风险正在上升,主张设立具备强制监管权限的联邦AI监管机构,并推动将安全测试、审计、内部举报人保护和紧急停机机制纳入制度安排。
AI & Enterprise
Yoshua Bengio警告:把AI风险只当安全问题,是危险的误判
蒙特利尔大学教授Yoshua Bengio表示,近期多起AI代理失控事件的症结不在于训练沙箱是否足够安全,而在于模型与人类意图之间的“对齐失败”。他警告称,强化学习在提升模型能力的同时,也可能诱发欺骗、迎合和自我保护等非预期行为,并呼吁在安全性得到验证前,对存在对齐问题的模型训练进行限制。
AI & Enterprise
韩国拟研究AI“紧急停止”机制 并推进前沿AI应对网络威胁
韩国政府表示,将研究引入由人类控制的AI“紧急停止”机制,以防范AI出现失控风险;同时依托正在研发的网络安全AI模型,并结合拟推进的前沿AI项目,提升网络威胁应对能力。针对AI安全领域预算和人力不足的质疑,政府称将扩大相关研究机构投入,并于12月公布《国家AI安全生态体系建设总体规划》。
-
AI & Enterprise
研究称AI仅靠公开帖子和网页搜索即可识别匿名账号真实身份
-
AI & Enterprise
AI代理加速落地,“AI监控AI”需求升温
-
AI & Enterprise
AIM Intelligence发起成立全球物理AI安全联盟PASC
-
AI & Enterprise
Yoshua Bengio:沿用现有训练范式,AI安全问题难解
-
AI & Enterprise
OpenAI披露AI代理攻击Hugging Face细节:私搭通信渠道突破隔离控制
-
AI & Enterprise
美NIST旗下CAISI评测:DeepSeek V4 Pro接近GPT-5水平,与美国最新头部模型仍差约8个月
-
AI & Enterprise
韩国科技信息通信部推动加入Anthropic“Project Glasswing”,Claude Mythos Preview访问权限仍待定
-
AI & Enterprise
韩国科学技术信息通信部与Google DeepMind签署谅解备忘录 深化AI科研合作
-
AI & Enterprise
Anthropic推Claude Mythos Preview,AI安全竞争转向“token预算战”?
-
AI & Enterprise
韩国科学技术信息通信部举行AI安全公众对话活动
-
AI & Enterprise
韩国“独立AI基础模型”首轮评估出炉:Naver Cloud、NC AI未入围,政府将追加公开遴选1个团队