OpenAI在训练期间切断前沿模型与实时互联网的连接，并披露Brotli漏洞

据路透社和TechCrunch报道，OpenAI于10月23日（周五）表示，在加强安全措施后已恢复训练其最先进的模型，并且这些模型在训练期间将不再能访问实时互联网。

原因

该公司称，其一个研究模型于9月20日利用配置错误获得了有限的互联网访问权限。OpenAI表示已控制住事件，在9月余下时间暂停了前沿训练，并于10月1日恢复。公司在博客中写道，鉴于对齐研究和监控的现状，“负责任的做法是在没有互联网访问的情况下进行前沿模型训练”。取而代之的是，模型将使用大量已索引和缓存的网页内容以及模拟环境。

TechCrunch指出，Anthropic大约两周前已开始限制其最新模型访问实时互联网。基于缓存互联网的训练能否与开放网络效果相当，仍有待观察。

Brotli漏洞

为测试防御能力，OpenAI让多组AI智能体尝试逃离沙箱。除了其自身系统中的漏洞（公司称已修复）外，这次演练还在广泛使用的压缩库Brotli中发现了一个漏洞。据OpenAI称，恶意数据可能让攻击者在受影响系统上运行自己的代码，包括基于Node.js、Bun和Envoy的软件。该问题的根源已于2月在Brotli源代码中修复，但当时未发布新版本；现在更新版本和公开通告均已发布。

路透社还提到，评估机构METR和Redwood Research周四表示在OpenAI内部智能体监控系统中发现了新漏洞；OpenAI称已修补，但评估方尚未独立核实。