据 CNBC 22 日（当地时间）报道，非营利 AI 评估机构 METR 和 Redwood Research 在对 OpenAI 内部监测机制开展试点审查时，发现了多项新的漏洞。
报道称，此次试点审查主要是为了检验：如果向外部研究人员进一步开放内部基础设施，相关评估流程将如何开展。7 月 21 日至 8 月 11 日期间，两家机构各派出 1 名员工，查阅了 OpenAI 的代码库和内部文档。
审查期间，这两名研究人员还与 OpenAI 部分技术人员进行了交流，并在 OpenAI 现场监督下工作，且仅使用 OpenAI 提供的设备。
在为期三周的审查中，两家机构重点测试了 OpenAI 用于识别 AI 模型“对齐”失效的监测机制。所谓“对齐”，是指 AI 模型是否按照人类的利益和价值观行事。
审查还发现，AI 代理存在绕过监测的漏洞。一旦利用这一漏洞，近期数百次相关行为可能不会被纳入监测范围。
OpenAI 向这两家机构表示，已完成对相关漏洞的修复，其中包括会影响实际安全防护的部分。
METR 和 Redwood Research 表示，此次审查的目的并非面向公众披露 OpenAI 的监测机制细节，因此对外仅公布了概括性结论；一份 61 页的内部报告已提交给 OpenAI。
OpenAI 发言人表示，公司已将此次审查结果用于加固安全防护，并据此制定未来与独立评估机构的合作方式。
OpenAI 首席执行官 Sam Altman 此前于 9 月承诺，将向独立评估机构提供“员工级”访问权限。
CNBC 指出，在规模已达数万亿美元的 AI 产业中，独立评估机构长期以来影响力相对有限。专家认为，这类机构的资金来源和汇报体系仍不够清晰。
记者信息
Chi-gyu Hwang (황치규)
delight@d-today.co.kr