El borrador de ley de seguridad de IA de Anthropic permitiría a un juez frenar un modelo con riesgo inminente de más de 50 muertes o 1.000 millones de dólares en daños

Anthropic ha hecho circular entre legisladores su propio borrador de ley federal de seguridad de la IA, informó POLITICO, y la empresa confirmó el documento. El 21 de octubre de 2026 POLITICO publicó un seguimiento sobre por qué el texto fija el umbral de daños en 1.000 millones de dólares.

Disposiciones clave (según lo publicado)

• El lanzamiento de un modelo solo podría bloquearse ante un “riesgo previsible e inminente” de más de 50 muertes o lesiones graves o de más de 1.000 millones de dólares en daños materiales.
• Ese riesgo debe derivar de un arma biológica, un ciberataque o de que el modelo eluda los controles de su desarrollador.
• Las evaluaciones correrían a cargo de evaluadores independientes registrados en el Departamento de Comercio. Según POLITICO, podrían ser pagados por los propios laboratorios siempre que el pago no dependa de los resultados.
• Si detectan un riesgo catastrófico inminente, tendrían 72 horas para avisar a Comercio, que luego debería pedir a un juez federal de Washington D. C. que detenga el lanzamiento. Ninguna agencia federal podría frenar un modelo por su cuenta.

Contexto

TechCrunch señaló que las cifras de 50 muertes y 1.000 millones se parecen a la definición de “riesgo catastrófico” de la reciente ley californiana SB 53. Un portavoz de Anthropic dijo a POLITICO que el texto refleja el Advanced AI Framework de la empresa, que afirma promover ante legisladores federales y estatales desde junio.