Anthropic ha liberado FlashProve, un prototipo de código abierto que permite comprobar que la respuesta de una IA procede realmente del modelo que el proveedor dice haber usado, sin revelar nada sobre los pesos de ese modelo. La compañía ha publicado el código, un informe técnico y pruebas formales de la idea, que llama «inferencia demostrable». Lo cuenta TheNextWeb.
El problema que ataca es uno que el usuario de cualquier servicio de IA no puede verificar hoy: si un enrutador cambió en silencio a un modelo más barato, o si alguien alteró las respuestas por el camino.
¿Qué problema resuelve exactamente?
El de no poder saber qué modelo te respondió de verdad. Cuando pagas por un modelo potente, no tienes forma de comprobar que detrás no se está sirviendo uno más pequeño y barato. FlashProve propone un mecanismo: el proveedor publica una huella (fingerprint) de los pesos del modelo, y cada respuesta incluye una prueba criptográfica de que esos pesos, y no otros, la generaron.
La clave está en que esa prueba no filtra nada sobre los pesos, algo esencial para laboratorios como Anthropic u OpenAI, que los mantienen en secreto. Técnicamente se apoya en un zkSNARK, un tipo de prueba de conocimiento cero que demuestra que algo es cierto sin enseñar los datos que lo sostienen. Anthropic lo probó sobre Llama 4 Maverick de Meta, un modelo de 400.000 millones de parámetros, y escribió las garantías de seguridad como pruebas verificadas por máquina en el lenguaje Lean. Está publicado bajo licencia Apache 2.0, y el propio Claude ayudó a construir el sistema. La filosofía es la misma de verificar el origen de lo que produce una IA que ya aplica Claude al marcar con agua invisible todos los textos que genera.
¿Para quién sería útil?
Para quien necesita fiarse de que el modelo servido es el prometido: evaluadores, clientes y reguladores. Según TheNextWeb, los evaluadores independientes podrían confirmar que prueban el modelo que de verdad se sirve; los clientes de servicios de enrutamiento, verificar que reciben aquello por lo que pagan; y los reguladores, comprobar que los chips de un proveedor ejecutan modelos aprobados.
Es un problema de confianza que crece a medida que la IA se mete en la cadena de servicios de seguridad y de negocio, donde ya conviven varios proveedores, como cuando CrowdStrike metió a OpenAI en su producto y a Anthropic en su tienda. Saber qué modelo actúa deja de ser una curiosidad y pasa a ser una cuestión de auditoría, en la línea de las credenciales de procedencia que llevan las herramientas para generar vídeo con IA mediante SynthID y C2PA.
¿Está listo para usarse?
No: es un prototipo con un coste altísimo y límites serios. Los números lo dejan claro. Generar las pruebas requiere entre 70 y 95 veces el tiempo de GPU que ejecutar el modelo normalmente; una sola GPU H100 de Nvidia produce pruebas a unos 110 tokens por segundo, y cada petición de 1.024 tokens genera una prueba de unos 19 MB. Verificarla, eso sí, es barato: unos 17 segundos en una CPU corriente, sin GPU ni acceso a los pesos.
Los límites pesan tanto como el coste: por ahora solo maneja contextos de 1.024 tokens —muy por debajo de lo que usa cualquier chatbot—, solo funciona con modelos de mezcla de expertos, oculta los pesos pero no el diseño del modelo, y no cubre los ataques basados en medir tiempos. Aun así, el salto es enorme respecto al punto de partida: la única prueba previa del mismo tipo tardaba 14,3 horas para 1.000 tokens. La propia Anthropic lo enmarca como lo que es: «esta entrada de investigación comparte un progreso intermedio, no una agenda de investigación terminada». De hecho, no hay planes de desplegarlo.
Mi lectura es que FlashProve importa más por lo que plantea que por lo que hoy puede hacer. La pregunta «¿cómo sé qué modelo me respondió?» va a ser central cuando la IA decida compras, diagnósticos o accesos, y hasta ahora la respuesta era «confía en el proveedor». Que Anthropic enseñe un camino criptográfico para no tener que confiar a ciegas, y lo publique abierto en lugar de guardarlo, es lo valioso. Dicho esto, un overhead de 70 a 95 veces y un tope de 1.024 tokens lo dejan en el terreno de la prueba de concepto: es la demostración de que se puede, no la herramienta que vas a usar. Que la propia empresa diga que no piensa desplegarlo es la señal más honesta de en qué punto está esto: una idea importante que todavía no cabe en el mundo real.