OpenAI describe Control Room, un 'interruptor de parada' que detiene modelos de investigación en 35 segundos
OpenAI dice que cada trabajo de investigación con agentes se registra ahora en un servicio central, Control Room, que puede cortar la salida del modelo como máximo 35 segundos después de una orden de parada y bloquea toda la inferencia de investigación si el propio servicio cae.
OpenAI publicó una descripción técnica de Control Room, un sistema interno que rastrea las cargas de trabajo con modelos en su infraestructura de investigación y puede detenerlas ante un problema de seguridad. No abarca los sistemas separados que sirven ChatGPT y la API al público.
Cómo funciona
- Cada carga de investigación con inferencia agéntica debe estar ligada a un caso de seguridad aprobado y obtener un ID de trabajo de Control Room.
- Cada vez que el trabajo pide salida a un modelo, el motor de inferencia consulta antes a Control Room. Si una persona o un monitor de desalineación marcó el trabajo como detenido, el motor se niega.
- El proceso de investigación puede seguir vivo, pero no recibe más salida del modelo.
OpenAI explica que puso el control en la capa de inferencia porque el código de investigación cambia constantemente. En sus palabras: «No dependemos de que el código del trabajo compruebe correctamente si el trabajo sigue en marcha».
35 segundos y ‘fallo cerrado’
El retraso máximo entre que la orden de parada llega a Control Room y el fin de la salida es de 35 segundos, debido a una caché de autorización; OpenAI dice que trabaja para llevarlo a cero. La cifra no incluye el tiempo para detectar un problema. El sistema falla cerrado: si Control Room cae, incluso por manipulación, se deniegan todas las peticiones de inferencia. Según OpenAI, ya funciona en la investigación de modelos de frontera y llegará al resto en pocos días.
La descripción procede de la propia OpenAI y no ha sido auditada de forma independiente.
También disponible en: EnglishСаха тылаРусский中文Portuguêsالعربية