简体中文 < 文章列表 - 数字今日 (DigitalToday)

AI & Enterprise

Hugging Face复盘内部入侵事件改用GLM 5.2，因商用大模型安全护栏拦截分析请求

Hugging Face在复盘内部入侵事件时，没有采用商用大模型，原因是其安全护栏会拦截包含真实攻击日志、命令和利用载荷的分析请求。随后，公司转而使用Z.ai开源权重模型GLM 5.2。该模型参数规模约7530亿，可直接部署在企业内网或受控云端环境中运行，从而降低数据外流风险。

AI & Enterprise

韩国科学技术信息通信部与韩国互联网振兴院（KISA）联合发布《AI安全红队演练指南》，围绕提示注入、越狱、模型幻觉、代理劫持等生成式AI主要风险，提出面向企业的一线实践指引。指南同时将评估范围扩展至数据、训练链路、UI、系统提示词、API及基础设施，旨在推动行业建立常态化AI红队机制。

AI & Enterprise

Nvidia CEO Jensen Huang表示，公司软件工程师的工作重点正由传统编码转向AI代理开发，单纯编写代码的比重正在下降，更多精力投入到基准测试和安全防护机制建设中。他认为，AI代理更适合承担重复性任务，AI也并非只会取代人力，而会在推广和落地过程中创造新的岗位。