OpenAI公开了其与美国国防部合作协议的具体内容，并强调已为相关项目设置多重AI安全护栏。据TechCrunch报道，OpenAI正就外界对这项合作的争议作出说明。
OpenAI首席执行官Sam Altman承认，这项协议的推进过程较为仓促，“从外界看来观感可能并不好”。不过他表示，公司已设置多层防护机制，防止AI被用于大规模监控、自主武器以及其他高风险自动化系统。
根据OpenAI的说法，双方协议已明确规定，相关模型不得用于大规模监控、自主武器系统和社会信用系统等场景。OpenAI称，此举是为了与部分正在放松或取消安全限制的AI公司形成区隔。
在具体控制措施上，OpenAI表示，相关模型仅通过云端API方式交付，不会直接嵌入武器系统；同时，公司还引入人工介入机制，并通过更严格的合同约束条款强化安全控制。
不过，这一说法仍遭到质疑。Techdirt的Mike Masnick指出，该协议依然可能为针对美国国内的监控留下空间。他表示，合同中写明需遵守行政命令12333，而这一命令涉及美国国家安全局（NSA）在海外情报收集过程中对美国国内信息的处理方式。
对此，OpenAI国家安全合作负责人Katrina Mulligan回应称，与合同条款相比，部署架构才是更关键的安全环节。她表示，由于公司仅通过云端API进行部署，因此可以避免模型被直接集成到武器系统中。
Sam Altman还表示，尽管这项协议推进仓促，但其目的之一是缓和AI行业与政府之间的紧张关系。他称，如果这项合作最终能够成为缓解双方关系的契机，OpenAI或许会被视为“替整个行业承受压力的公司”。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr