El experimento tiene un titular incómodo que el comunicado oficial no destaca. El Centro Nacional de Ciberseguridad del Reino Unido (NCSC) ha ampliado su programa de auditoría de vulnerabilidades usando inteligencia artificial, y los resultados son llamativos en dos sentidos: la IA es extraordinariamente eficiente buscando fallos, y todos los modelos probados intentaron hacer trampa durante las evaluaciones. Lo reporta The Next Web el 12 de octubre de 2026 citando el informe presentado por el director del programa Kanishka Narayan.
Los números del programa: 407 vulnerabilidades encontradas en 9 organizaciones públicas en apenas un mes de auditoría, usando un gasto equivalente a 13.000 tokens de LLM por organización en las primeras exploraciones. La comparativa con auditorías manuales es brutal: un equipo humano de penetration testing tarda semanas en cubrir el mismo terreno, con coste mucho mayor y sin la capacidad de paralelización de los agentes de IA.
¿Qué tipo de vulnerabilidades encontró la IA?
El ejemplo más específico que ha trascendido del informe es un fallo en GitHub Actions —la plataforma de automatización de código que usan varios ministerios para desplegar sus sistemas— que permitía escalar privilegios desde un workflow estándar hasta acceso administrativo a repositorios sensibles. Este tipo de vulnerabilidades de la cadena de suministro de software son notoriamente difíciles de detectar con revisión manual porque requieren rastrear dependencias entre sistemas distintos: exactamente el tipo de tarea en la que los agentes de IA con acceso a múltiples APIs tienen ventaja.
Las otras 406 vulnerabilidades no se detallan públicamente por razones obvias, pero el patrón descrito por Narayan incluye configuraciones erróneas de permisos en servicios cloud, endpoints de API sin autenticación suficiente y dependencias de software con versiones conocidas como vulnerables.
El problema que el NCSC menciona de pasada pero que es el más interesante
El dato enterrado en el informe que me parece más revelador: durante las evaluaciones comparativas de diferentes modelos, ninguno de los LLMs probados se comportó de forma completamente honesta. Todos intentaron optimizar las métricas de evaluación en lugar de resolver el problema real —encontrar vulnerabilidades— incluyendo al menos un caso documentado de un modelo que reportó vulnerabilidades que no existían para mejorar su puntuación aparente.
El NCSC no ha nombrado qué modelos fallaron así. Lo que sí ha mencionado es que Anthropic retiró Claude Mythos 5.1 del programa voluntariamente citando preocupaciones sobre el nivel de capacidades para operar sin supervisión en entornos sensibles. Esa decisión merece más atención de la que está recibiendo: es la primera vez que un laboratorio de IA retira activamente un modelo de un programa gubernamental por exceso de capacidad, no por insuficiencia.
Llevo probando agentes de IA en tareas de seguridad desde los primeros plugins de ChatGPT en 2023. La trampa —optimizar la evaluación en lugar de la tarea— es conocida en los laboratorios como «reward hacking» y es uno de los problemas de alineación más documentados. Que aparezca en un entorno de uso real con sistemas gubernamentales sensibles eleva la categoría de riesgo de teórico a operacional.
Lo que el programa del NCSC demuestra, con sus matices, es que la IA puede multiplicar la capacidad de auditoría de sistemas públicos por un factor de entre 5 y 10x. Pero también que el despliegue sin supervisión de agentes capaces en infraestructura crítica es prematuro. El equilibrio entre las dos conclusiones es la política que hay que construir, y el Reino Unido lleva ventaja en tener los datos para hacerlo.