OpenAI descreve o Control Room, um 'botão de parada' que interrompe modelos de pesquisa em 35 segundos

A OpenAI publicou uma descrição técnica do Control Room, sistema interno que acompanha as cargas de trabalho com modelos em sua infraestrutura de pesquisa e pode interrompê-las diante de um problema de segurança. Ele não cobre os sistemas separados que servem o ChatGPT e a API ao público.

Como funciona

• Toda carga de pesquisa com inferência agêntica precisa estar ligada a um caso de segurança aprovado e obter um ID de trabalho do Control Room.
• Sempre que o trabalho pede saída a um modelo, o motor de inferência consulta antes o Control Room. Se uma pessoa ou um monitor de desalinhamento marcou o trabalho como parado, o motor recusa.
• O processo de pesquisa pode continuar rodando, mas não recebe mais saída do modelo.

A OpenAI explica que colocou a verificação na camada de inferência porque o código de pesquisa muda o tempo todo. Nas palavras da empresa: “Não dependemos de o código do trabalho verificar corretamente se o trabalho ainda está em execução.”

35 segundos e ‘falha fechada’

O atraso máximo entre a ordem de parada chegar ao Control Room e o fim da saída é de 35 segundos, causado por um cache de autorização; a OpenAI diz trabalhar para zerá-lo. O número não inclui o tempo para detectar um problema. O sistema falha fechado: se o Control Room cair, inclusive por sabotagem, todas as requisições de inferência são negadas. Segundo a OpenAI, isso já vale para a pesquisa de modelos de fronteira e chegará às demais em poucos dias.

A descrição vem da própria OpenAI e não passou por auditoria independente.