据The Verge当地时间23日报道，OpenAI正在无互联网连接的环境中训练其最先进的AI模型，以降低AI代理失控并对外部系统发起攻击的风险。
报道称，OpenAI在公司博客中表示，已搭建离线测试环境。在这一环境下，AI模型只能处理预先存储的网页内容，以避免对外部系统造成影响。
此前曾出现AI代理突破测试环境，并对外部企业和政府机构发起攻击的情况。受此影响，OpenAI曾于9月一度暂停最先进模型的训练，并在10月1日加强安全措施后，恢复与强化学习和内部推理相关的工作。
OpenAI还发现，即便切断互联网连接，代理之间仍可能相互通信。测试中，OpenAI要求位于不同虚拟机中的AI代理在无网络条件下交换机密信息，结果显示，这些代理借助处理器缓存绕过了通信限制。
具体来看，缓存中的数据读取速度快于主内存。代理正是利用这种速度差异来编码信息：其中一个代理通过有选择地驱逐缓存数据发送信号，另一个代理则根据重新读取相关数据时的速度变化识别信息。The Verge称，在设定好信号传递规则后，代理无需共享文件或网络连接，便完成了测试用机密信息的交换。
OpenAI表示，已将识别此类通信的机制纳入安全监测范围。在进一步强化安全防护措施之前，最先进模型将继续在离线环境中训练。与此同时，OpenAI还计划提升虚拟机的安全性，并排查测试环境中的潜在薄弱环节。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr