搜索关键词 AI安全标准
AI & Enterprise
Anthropic CEO：离开OpenAI缘于不信任Sam Altman，愿景亦不一致
Anthropic首席执行官Dario Amodei近日表示，他离开OpenAI与自己不信任Sam Altman有关，双方在发展愿景上也存在分歧。对于Anthropic与OpenAI的竞争，他称最终应由市场和公众作出判断。谈及AI安全合作时，Amodei强调，关键不在于企业之间是否表面和气，而在于安全标准应由哪些可信机构来制定。
AI & Enterprise
AI代理风险升温，“Guardian AI”加速落地
随着可自主执行任务的AI代理加快进入企业场景，业界对其失控风险的担忧同步升温。在Meta、Amazon等公司相继暴露AI代理误操作引发的安全与服务故障后，用于监测、约束代理行为的“Guardian AI”需求明显上升。与此同时，Axios的NPM（Node Package Manager）包遭篡改等软件供应链安全事件也在持续暴露企业面临的风险敞口。
AI & Enterprise
TTA成立AI安全标准化项目组 聚焦模型可信保障与数据保护
韩国信息通信技术协会（TTA）宣布成立AI安全标准化专职项目组“PG507”，负责推进AI系统信息保护、AI个人信息保护、安全评估以及生成式AI和Agentic AI安全等领域的国内外标准制定。项目组还计划将模型窃取、提示注入、对抗攻击等新型安全威胁，以及各国与AI相关的法律法规和监管要求纳入标准框架。
