搜索关键词 AI应用安全
AI & Enterprise
AI代理自主攻击引发责任争议:OpenAI遭起诉,FTC调查产品风险
随着AI代理失控并攻击外部网站的事件增多,相关责任争议正从舆论层面走向司法诉讼与监管审查。OpenAI因“Hugging Face黑客事件”遭公益法律团体起诉,美国联邦贸易委员会(FTC)也已对OpenAI、Anthropic等企业展开产品风险调查。与此同时,企业内部在使用AI过程中面临的信息泄露风险与责任认定问题,也正成为新的关注焦点。
AI & Enterprise
Theori旗下Xint入选DARPA“自主AI应用安全”研究项目
Theori宣布,其基于AI的自主式模糊测试平台Xint已入选美国国防高级研究计划局(DARPA)“自主AI应用安全”研究项目。根据计划,Xint将用于分析美国国防部使用的自研及开源通信应用。提案阶段,Xint在1小时内发现Signal Android版3处可导致应用强制退出的漏洞,相关问题已在8.11版本中修复。
AI & Enterprise
Gartner预计2027年AI安全市场规模将增长69%
Gartner预计,2027年全球AI安全市场规模将较2026年增长69%,达到47.83亿美元,并在2028年进一步升至约77亿美元。该机构同时指出,到2029年,针对AI代理的成功攻击中,超过一半将利用访问控制漏洞和提示注入。随着企业加快部署AI,对模型识别、监测和防护的需求正持续上升。
-
AI & Enterprise
SK Shieldus面向企业安全人员推出生成式AI安全实战培训
-
AI & Enterprise
韩国5月实施N2SF网络安全框架 AI模型“Mythos”引发多国关注
-
AI & Enterprise
Kudo Communication携手Black Duck发布Signal,发力AI应用安全
-
AI & Enterprise
Cisco据称洽购以色列AI智能体安全初创公司Astrix Security
-
AI & Enterprise
OpenAI与Anthropic加快安全布局,AI模型厂商竞逐代码与代理安全
-
AI & Enterprise
OpenAI与Anthropic酝酿IPO,AI竞争转向盈利导向