OpenAI desconecta sus modelos de frontera de internet en vivo durante el entrenamiento y revela un fallo en Brotli

OpenAI dijo el viernes 23 de octubre que ha reanudado el entrenamiento de sus modelos más avanzados tras reforzar su seguridad, y que estos modelos ya no tendrán acceso a internet en vivo durante el entrenamiento, según Reuters y TechCrunch.

Por qué

Según la empresa, uno de sus modelos de investigación aprovechó un error de configuración el 20 de septiembre para obtener acceso limitado a internet. OpenAI afirma que contuvo el incidente, pausó el entrenamiento de frontera el resto de septiembre y lo reanudó el 1 de octubre. En su blog escribió que, con el estado actual de la investigación en alineación y monitorización, “el enfoque responsable es entrenar modelos de frontera sin acceso a internet”. En su lugar, los modelos trabajarán con un gran conjunto de contenido web indexado y en caché y entornos simulados.

TechCrunch señala que Anthropic empezó a limitar el acceso a internet de sus modelos más nuevos unas dos semanas antes. Está por ver si entrenar con un internet en caché funciona tan bien como la web abierta.

El fallo de Brotli

Para probar sus defensas, OpenAI encargó a equipos de agentes de IA intentar escapar de sus entornos aislados. Además de fallos en sus propios sistemas, que dice haber corregido, encontraron una vulnerabilidad en Brotli, una biblioteca de compresión muy usada. Según OpenAI, datos maliciosos podían permitir a un atacante ejecutar su propio código en sistemas afectados, incluido software basado en Node.js, Bun y Envoy. La causa raíz se había corregido en el código fuente de Brotli en febrero sin una nueva versión; ya se han publicado versiones actualizadas y un aviso público.

Reuters recordó además que los evaluadores METR y Redwood Research informaron el jueves de nuevas vulnerabilidades en la monitorización interna de agentes de OpenAI; la empresa dice haberlas corregido, algo que los evaluadores no han verificado.