搜索关键词 提示注入攻击
AI & Enterprise
韩国拟研究AI“紧急停止”机制 并推进前沿AI应对网络威胁
韩国政府表示，将研究引入由人类控制的AI“紧急停止”机制，以防范AI出现失控风险；同时依托正在研发的网络安全AI模型，并结合拟推进的前沿AI项目，提升网络威胁应对能力。针对AI安全领域预算和人力不足的质疑，政府称将扩大相关研究机构投入，并于12月公布《国家AI安全生态体系建设总体规划》。
Crypto
Cloudflare发布面向AI代理的云浏览器Kitesurf
Cloudflare发布面向AI代理的云浏览器Kitesurf，帮助开发者构建可执行网页导航、表单填写等浏览器端任务的AI应用。该产品运行于Workers平台，目前在测试阶段通过Browser Run免费提供。Cloudflare表示，Kitesurf在截图、HTML提取等常见代理任务中较Chromium更节省CPU和内存资源，并已通过超21.5万项Web平台测试。
Fintech
KakaoBank多篇金融AI安全论文入选ICLR、ACL等国际学术会议
KakaoBank表示，旗下金融技术研究所今年上半年共有4篇AI研究论文被ICLR、ACL、LREC等国际会议接收，研究方向涵盖提示注入攻击检测、金融数值计算错误识别和金融AI安全评估等，并与KAIST联合构建了约5.9万条数据构建的数据集。
-
AI & Enterprise
Snowflake高管：安全能力应内建于数据平台，AI时代平台价值将进一步提升
-
AI & Enterprise
“Comment and Control”提示注入攻击方式曝光，可同时针对Claude Code、Gemini CLI和GitHub Copilot Agent
-
Crypto
Coinpello开源MetaMask AI代理技能：无需交出私钥也能完成链上交易
-
AI & Enterprise
开源 AI 编程代理 Cline 曝出漏洞，攻击者借机自动安装 OpenClaw
-
AI & Enterprise
Salesforce推出AI升级版Slackbot，提升企业办公自动化能力