Agentes de IA de DeepMind verifican matemáticamente el código de cifrado de Signal en cuatro semanas

Google DeepMind presentó AlphaProof Code, un marco de IA multiagente para la verificación formal: demostrar matemáticamente que un programa hace lo que dice su especificación. Su primera gran prueba fue libsignal, la implementación de referencia del protocolo Signal, que protege los mensajes en Signal, Google Messages y otras aplicaciones.

Qué se demostró

• Expertos humanos, junto con modelos de IA, redactaron especificaciones formales de los objetivos de seguridad de Signal y revisaron cada una.
• Agentes demostradores (según DeepMind, basados en Gemini Carbon) generaron unos 6,5 millones de líneas de pruebas en Lean, apoyadas en unas 26.000 líneas de especificaciones de confianza y un modelo formal del código máquina AArch64.
• Las pruebas cubren el handshake poscuántico PQXDH y el Triple Ratchet: secreto hacia adelante, autenticación, seguridad poscompromiso y secreto del handshake, para el código máquina compilado de libsignal v0.105.4 sin modificar, no solo para el diseño.
• El proyecto duró cuatro semanas. Como control, el equipo reintrodujo dos errores reales ya corregidos en una copia aislada, y el sistema demostró que esas versiones eran inseguras.

Límites

Las primitivas criptográficas y algunas rutinas de biblioteca se trataron como contratos de confianza, sin verificarlas. No se verificó la app móvil completa ni se hallaron vulnerabilidades nuevas. WIRED señala que no está claro cuán práctica y asequible será esta verificación a gran escala; Google no reveló el coste. Las pruebas en Lean se publicaron abiertamente.