Automatización de la verificación formal con LLMs
La investigación publicada por Anthropic el 22 de octubre de 2026 muestra que Claude puede generar automáticamente pruebas formales sobre código ensamblador. Esto significa que, sin intervención humana continua, el modelo produce argumentos matemáticos que demuestran propiedades de seguridad y correcto funcionamiento de software a nivel muy bajo. Este uso aplica la capacidad de Claude para entender código y lógica compleja más allá de generación textual habitual.
En este proyecto, Claude produjo pruebas formales sobre 123 bibliotecas de código abierto escritas para la arquitectura RISC-V, una arquitectura abierta creciente pero menos común que x86 o ARM, y orientada aquí a códigos de un solo hilo. Estas pruebas fueron verificadas con un kernel formal llamado Rocq, que comprueba que dichas demostraciones cumplen con los estándares formales de seguridad.
La técnica aplicada no garantiza absoluta seguridad, ya que el alcance está restringido a programas con entradas inferiores a 64 MB y a la arquitectura RISC-V. La colaboración con Theorem ayudó a integrar las capacidades del modelo con frameworks de verificación formal ya existentes.
Este avance no representa una garantía total, pero abre una puerta para ampliar la seguridad del software con automatización inteligente, algo clave en la creciente complejidad de sistemas y la necesidad de mejoras rápidas y fiables en la verificación formal.
Limitaciones y alcance del estudio
El análisis se centró exclusivamente en la arquitectura RISC-V, reduciendo la aplicabilidad práctica para la mayoría de software actualmente en uso, que suele ejecutarse sobre arquitecturas x86 o ARM. Además, el estudio abarca software monohilo, lo que limita su alcance en sistemas concurrentes o paralelos.
El tamaño máximo para procesar entradas fue limitado en este trabajo, restringiendo los escenarios de uso para software real complejo. Esto implica que las pruebas formales son factibles para piezas pequeñas o modulares, pero aún no alcanzan niveles de sistemas operativos o aplicaciones completas.
La colaboración con Theorem, experta en verificación formal, y el uso del kernel Rocq ofrecen un respaldo al empleo del modelo Claude, pero no suplen la necesidad de validación independiente para asegurar que los resultados pueden aplicarse sin fallo en ambientes de producción.
Al no especificarse la versión de Claude ni su arquitectura de entrenamiento, no se puede evaluar la evolución concreta del modelo que permitió esta demostración ni comparar con sus rivales en el mercado.
Implicaciones para la comunidad de IA y el desarrollo de software
La capacidad de un modelo de lenguaje para crear automáticamente pruebas formales representa una evolución significativa en las aplicaciones de IA más allá de generación creativa o asistencia en programación para tareas rutinarias o de bajo nivel.
Automatizar la verificación formal puede acelerar enormemente el ciclo de desarrollo y auditoría de software, especialmente para componentes críticos donde los errores pueden causar fallos graves o vulnerabilidades de seguridad.
Sin embargo, la comunidad debe tener presente que esta tecnología es todavía experimental y que la verificación formal automatizada debe complementarse con auditoría humana y análisis independiente para garantizar su eficacia y seguridad a gran escala.
Este caso también plantea un nuevo punto de convergencia entre modelos de lenguaje y herramientas formalistas, lo que podría impulsar la mejora del código a través de métodos de razonamiento automático, con potencial futuras integraciones en entornos de desarrollo dirigidos a la seguridad.
El papel de la colaboración Anthropic-Theorem
La alianza entre Anthropic y Theorem fue clave para combinar las capacidades de las LLM con técnicas formales ya existentes, haciendo posible que Claude generara pruebas que luego el kernel Rocq verificó automáticamente.
Theorem aporta experiencia en verificación formal tradicional, mientras que Anthropic aporta modelos de inteligencia artificial avanzados, mostrando un modelo híbrido de innovación donde ambos sectores se potencian.
Este tipo de colaboraciones puede marcar una tendencia para abordar retos complejos en software de alta fiabilidad, un ámbito en el que la IA todavía está dando sus primeros pasos con aplicaciones prácticas reales.
Se mantiene el riesgo de que los resultados requieren validación externa y que, salvo avance en arquitecturas y tipos de software soportados, la automatización total de la verificación formal será un objetivo a medio o largo plazo.