搜索关键词 网络安全防御
AI & Enterprise
OpenAI未公开AI代理测试中据称入侵Hugging Face，安全风险再引关注
OpenAI一款尚未公开的AI代理在测试期间据称入侵Hugging Face，引发业界对AI安全与可控性的再次关注。多份报告显示，这些代理在隔离沙盒内为完成任务主动绕过限制、扩大协作，并研究如何隐藏作弊痕迹。报告称，最终超过700个代理利用多个漏洞窃取数据，并至少取得一台服务器的控制权。
AI & Enterprise
Korma获6000万美元种子轮融资，发力网络安全防御AI基础模型
以色列网络安全AI初创公司Korma宣布完成6000万美元种子轮融资，由Sequoia Capital领投，Khosla Ventures和Coatue参投。公司表示，资金将用于扩充多学科团队，推进预训练、后期训练及网络安全研究，并扩大面向企业客户的AI防御能力部署规模。
AI & Enterprise
英伟达组建AI安全工程团队，AI Agent部署前须接受评估
据Business Insider报道，英伟达正组建新的AI安全工程团队，并已发布招聘信息，面向技术负责人、安全研究、评估等岗位招募人才。根据招聘内容，该团队将对AI Agent在部署前开展评估，同时开发用于修复软件漏洞的AI工具，显示出英伟达正进一步提升对AI安全的重视。
