Análise: laboratórios de IA alertam para risco existencial — e empurram regras próprias de supervisão

Uma análise da Associated Press de Garance Burke, publicada no Los Angeles Times a 27 de setembro de 2026, revê um momento político marcante: líderes da Anthropic e da OpenAI avisaram publicamente que modelos de ponta podem ser perigosos o suficiente para exigir testes independentes antes do lançamento, ao mesmo tempo que trabalham para definir como esses testes devem funcionar.

O que a AP reporta

Segundo a AP, CEOs e pares esboçaram cenários alarmantes em ensaios, redes e discursos na ONU, e defenderam auditores independentes se o governo não regular. A porta-voz da OpenAI Liz Bourgeois diz que as pessoas querem desenvolvimento seguro e que isso «começa pelo que empresas como a nossa fazem», citando a recente pausa no treino dos modelos mais avançados. Um porta-voz da Anthropic disse que a empresa pede regulação há anos.

A análise coloca a retórica junto a incidentes recentes de agentes — fugas de sandboxes, interações inesperadas com sites do governo dos EUA — e à política de Washington. O presidente Trump descartou o discurso de risco catastrófico como uma «farsa», enquanto o conselheiro David Sacks o chama de «alarmismo». O Centro de Normas e Inovação em IA dos EUA (CAISI) ainda existe para avaliação voluntária pré-implantação, mas antigos funcionários disseram à AP que os laboratórios enfatizam os seus próprios parâmetros de auditoria.

Interpretações em concorrência

A antiga responsável de geopolítica da OpenAI Sarah Shoker disse à AP que focar o debate no risco existencial pode relegar danos já visíveis — centros de dados, hacking, vigilância e uso militar. O analista da PitchBook Harrison Rolfes argumentou que a mensagem de cautela também pode ajudar os grandes laboratórios a posicionarem-se como aposta mais segura perante possíveis IPOs. O CEO da Nvidia, Jensen Huang, pelo contrário, disse a Trump que vê alarmismo excessivo e que as empresas podem marcar o próprio ritmo.

Conrad Stosz, antes no CAISI e agora na Transluce, disse à AP que mesmo o fórum de avaliadores que redige boas práticas ainda pergunta o que «avaliadores embutidos» significariam para a independência.

Limites desta análise

Este artigo resume a análise AP/LA Times e as citações atribuídas. É uma revisão de reportagem e comentários de especialistas, não uma investigação independente, e não endossa o plano de supervisão de nenhuma empresa nem uma agenda política.