Análisis: los laboratorios de IA alertan del riesgo existencial — y empujan a escribir sus propias reglas de supervisión

Un análisis de Associated Press de Garance Burke, publicado en el Los Angeles Times el 27 de septiembre de 2026, revisa un momento político llamativo: líderes de Anthropic y OpenAI han advertido en público que los modelos de vanguardia pueden ser lo bastante peligrosos como para exigir pruebas independientes antes del lanzamiento, al tiempo que trabajan para definir cómo deben hacerse esas pruebas.

Qué reporta la AP

Según la AP, CEOs y pares han esbozado escenarios alarmantes en ensayos, redes y discursos ante la ONU, y han abogado por auditores independientes si el gobierno no regula. La portavoz de OpenAI Liz Bourgeois afirma que la gente quiere un desarrollo seguro y que «empieza por lo que hacen empresas como la nuestra», citando la reciente pausa de entrenamiento de sus modelos más avanzados. Un portavoz de Anthropic dijo que la firma lleva años pidiendo regulación.

El análisis sitúa la retórica junto a incidentes recientes de agentes —fugas de sandboxes, interacciones inesperadas con sitios del gobierno de EE. UU.— y junto a la política de Washington. El presidente Trump ha descartado el discurso de riesgo catastrófico como un «engaño», mientras el asesor David Sacks lo tacha de «alarmismo». El Centro de Normas e Innovación en IA de EE. UU. (CAISI) sigue existiendo para evaluación voluntaria previa al despliegue, pero exfuncionarios dijeron a la AP que los laboratorios enfatizan sus propios parámetros de auditoría.

Interpretaciones en competencia

La exresponsable de geopolítica de OpenAI Sarah Shoker dijo a la AP que centrar el debate en el riesgo existencial puede relegar daños ya visibles —centros de datos, hacking, vigilancia y uso militar—. El analista de PitchBook Harrison Rolfes sostuvo que el mensaje de cautela también puede ayudar a los grandes laboratorios a presentarse como apuesta más segura ante posibles salidas a bolsa. El CEO de Nvidia, Jensen Huang, por el contrario, dijo a Trump que ve un alarmismo excesivo y que las empresas pueden marcar su propio ritmo.

Conrad Stosz, antes en CAISI y ahora en Transluce, dijo a la AP que incluso el foro de evaluadores que redacta buenas prácticas sigue preguntándose qué significaría «evaluadores embebidos» para la independencia.

Límites de este análisis

Este artículo resume el análisis AP/LA Times y las citas atribuidas. Es una reseña de reportaje y comentarios de expertos, no una investigación independiente, y no respalda el plan de supervisión de ninguna empresa ni una agenda política.