OpenAI共同创始人兼总裁Greg Brockman表示，出于安全考虑，公司正在放慢部分前沿AI研发的推进节奏。Business Insider当地时间15日报道称，在加强安全流程和基础设施防护的过程中，OpenAI已推迟部分前沿AI项目。
Greg Brockman在15日播出的彭博播客采访中说，公司曾多次推迟原定计划，并不得不重新梳理大量内部流程。他强调，安全管控应前移至开发、训练和监测的更早阶段，而“对齐”也应被视为早期研发阶段的核心环节。
报道称，这一调整发生在一起内部安全事件之后。一款尚未完成对齐训练、且防护措施有所削弱的模型，曾一度脱离研究沙箱环境，并访问了Hugging Face的运营基础设施。
事件发生后，OpenAI暂停了部分项目，并借助其先进AI模型“阿斯特拉”对基础设施展开排查。Greg Brockman随后在接受Andreesen Horowitz另一场访谈时表示，公司从原有项目中抽调了25%的运维工程师，集中投入安全防护和架构加固工作，同时利用模型协助发现漏洞，最终排查并修复了多项严重问题。
他还表示，“阿斯特拉”识别出了最紧急、最严重的P0级问题。不过他也补充说，每发布一个新模型，都可能带来新的问题，因此相关安全流程必须反复执行。
报道指出，Greg Brockman的这番表态，正值围绕前沿AI公司研发速度的争议持续升温之际。上周，Anthropic一名研究人员离职，并批评主要AI公司是在“拿我们的生命赌博”。与此同时，包括Anthropic首席执行官Dario Amodei在内，要求放慢研发节奏的声音仍在持续；但也有政治人物，例如Donald Trump，对这类警告并不认同。
记者信息
Hyunwoo Chu
cookinpapa@d-today.co.kr