Un padre de diez hijos de Charlotte, Carolina del Norte, estuvo casi tres meses en prisión por un robo de vehículo que no cometió en Jacksonville, Florida. Durante ese tiempo perdió su trabajo, su coche y su hogar. Cuando salió, la comunidad ya lo conocía como el hombre que robó un coche en otro estado mientras él estaba cientos de kilómetros de distancia, con hojas de tiempo de trabajo como coartada.
En el otro caso, un hombre de 52 años de Fort Myers fue acusado de intentar raptar a una menor de doce años en un McDonald’s de Jacksonville Beach en noviembre de 2023. Vivía a más de 300 kilómetros del local y asegura no haber pisado Jacksonville Beach en su vida. Nadie comprobó eso antes de arrestarle, ocho meses después de que un algoritmo lo señalara. El sistema de reconocimiento facial le dio un 93% de coincidencia.
Los dos casos ocurrieron en Florida. Los dos implican el mismo tipo de herramienta: software de reconocimiento facial usado por la policía para identificar sospechosos a partir de grabaciones de vigilancia. Los dos terminaron en arrestos erróneos. Lo cuenta Kyle Torpey en Gizmodo este 12 de junio.
FACESNXT y el procedimiento que no funcionó
El sistema que identificó a Robert Dillon en el caso de Jacksonville Beach tiene nombre: FACESNXT (Face Analysis Comparison and Examination System), operado por la Jacksonville Sheriff’s Office. El procedimiento que siguió la policía tiene un problema añadido al propio fallo del software: el oficial David Cohill tomó fotos con su móvil de la pantalla del ordenador donde aparecía la grabación de vigilancia —es decir, una foto de una foto— antes de pasarlas por FACESNXT. El sistema identificó a Dillon como coincidencia del 93%.
Lo que el juez que firmó la orden de arresto no supo es que la misma empleada del McDonald’s que describió al sospechoso como «un cliente habitual del local» también señaló la foto de Dillon en una rueda de reconocimiento posterior. Dillon, que jamás había estado en ese McDonald’s, no podía ser «un habitual». Ese detalle no llegó al juzgado. Dillon fue arrestado en su casa por un agente del condado de Lee ocho meses después de la primera identificación. Al llegar le dijo a los agentes que tenían a la persona equivocada. Uno de ellos le respondió: «Si lo que dices es verdad, tienes un buen pleito.»
La ACLU presentó la demanda Dillon v. City of Jacksonville Beach el 10 de junio de 2026 en el Tribunal Federal del Middle District de Florida, con la firma Hoguet Newman Regal & Kenney.
Un patrón documentado, no un error aislado
Sería más cómodo tratar estos dos casos como anomalías. No lo son. La ACLU lleva años documentando un patrón nacional de arrestos erróneos vinculados a reconocimiento facial policial, y en 2026 ha identificado más de una docena de casos similares.
En Florida, el mismo sistema del condado de Pinellas fue responsable de otro arresto erróneo diferente en Orlando en 2026. En Maryland, la ACLU exigió revisión de políticas y disculpa pública después de que la policía local usara un escaneo de reconocimiento facial realizado por un usuario desconocido de una web para imputar a alguien. En Detroit en 2020, Robert Williams se convirtió en el primer americano documentado arrestado por error gracias al reconocimiento facial: fue acusado de robo de relojes a partir de una imagen borrosa que el software coincidió con su carné de conducir. Williams pasó 18 horas detenido. Años más tarde llegó a un acuerdo con la ciudad.
La investigación académica sobre estos sistemas es consistente: el reconocimiento facial automatizado comete más errores con personas de piel oscura y con mujeres. Los hombres negros son el grupo estadísticamente más afectado por los falsos positivos. En los dos casos de Florida documentados esta semana, ambos acusados son hombres negros.
Florida sin regulación, policías sin obligación de explicar el método
Florida no tiene ninguna ley estatal que restrinja el uso policial de reconocimiento facial. En ausencia de marco legal, las decisiones las toma cada departamento de policía: qué sistemas usar, cómo verificar las coincidencias, si hay que informar al juez del método de identificación y si el acusado tiene derecho a saber que fue identificado por una IA.
En el caso Dillon, la policía no informó al tribunal de que la identificación inicial procedía de FACESNXT. El juez firmó la orden sin saber que el punto de partida era una coincidencia algorítmica del 93% obtenida a partir de una foto de una pantalla.
Ese es el mecanismo de fallo: el algoritmo genera una candidatura, la policía trata esa candidatura como punto de partida para construir un caso en lugar de como una hipótesis que hay que verificar, y el sistema judicial recibe el caso sin información sobre su origen. Si la coincidencia algorítmica hubiera sido verificada contra los datos de matrícula del coche de Dillon —disponibles a través de lectores automáticos de matrículas que mostraban que su vehículo no estaba cerca de Jacksonville Beach— nunca habría habido arresto.
Tras revisar los detalles del caso Dillon y el de Jalil Richardson, lo que resulta más perturbador no es el error del software: es el proceso posterior que convirtió ese error en tres meses de prisión sin que nadie en la cadena se detuviera a verificar la hipótesis inicial.
Mi valoración
Lo que más me convence es el argumento legal de la ACLU: no atacan el reconocimiento facial en sí, sino la ausencia de un proceso de verificación independiente del resultado algorítmico. Si la policía hubiera tratado la coincidencia de FACESNXT como lo que es —una pista, no una prueba— y hubiera comprobado los datos de matrícula y el historial de Dillon antes de actuar, no habría habido arresto. El fallo no es tecnológico; es procedimental.
Lo que más me preocupa es la ausencia de transparencia con los tribunales. Que la policía de Jacksonville no informara al juez de que la identificación procedía de un sistema de IA es un problema que va más allá del reconocimiento facial. Si cualquier método forense —digital, biométrico, de análisis de datos— puede usarse sin revelar su naturaleza al tribunal, el derecho a un juicio justo tiene una brecha estructural.
Lo más estructuralmente significativo es que Florida, con uno de los historiales más problemáticos en el uso de reconocimiento facial por parte de la policía, sigue sin regulación estatal específica. El AI Act europeo prohíbe el reconocimiento facial en tiempo real en espacios públicos y requiere supervisión humana para usos post-hoc. En EE.UU., la regulación depende de si el Congreso actúa o de si los litigios crean jurisprudencia suficiente. El caso Dillon tiene potencial para establecer estándares sobre revelación obligatoria del método de identificación.
Mi predicción: el caso Dillon se resuelve con acuerdo económico de Jacksonville Beach antes de ir a juicio, pero la jurisprudencia que genere el proceso previo —especialmente sobre obligación de revelar el uso de reconocimiento facial al tribunal— puede ser más valiosa que el veredicto.
Preguntas frecuentes
¿Por qué el reconocimiento facial comete más errores con personas de piel oscura?
Porque la mayoría de los conjuntos de datos con los que se entrenaron los modelos de reconocimiento facial que se adoptaron masivamente a finales de la década de 2010 tenían sesgos de representación: incluían proporcionalmente muchas más imágenes de hombres blancos que de mujeres o personas de color. Eso hace que el modelo sea más preciso para las características faciales de las personas mejor representadas en el entrenamiento. Varios estudios académicos, incluyendo el trabajo del MIT Media Lab, demostraron tasas de error significativamente más altas para mujeres de piel oscura que para hombres de piel clara.
¿Hay estados de EE.UU. con leyes que restrinjan el uso policial de reconocimiento facial?
Sí. Illinois tiene la Biometric Information Privacy Act, una de las más estrictas del país. Varias ciudades, entre ellas San Francisco, Boston y Portland (Oregón), tienen prohibiciones municipales del uso policial de reconocimiento facial. En Massachusetts hay restricciones a nivel estatal. Florida, en cambio, no tiene ninguna regulación específica, lo que convierte al estado en uno de los entornos menos protegidos del país para este uso.
¿Puede exigir un acusado saber si fue identificado mediante reconocimiento facial?
En la práctica, con muy frecuencia no. En ausencia de una obligación legal de revelación, la policía puede no informar al acusado —ni al tribunal— del método de identificación utilizado. Eso es exactamente lo que ocurrió en el caso Dillon: ni el juez que firmó la orden de arresto ni el propio Dillon supieron inicialmente que la identificación procedía de FACESNXT. Algunos estados y ciudades han empezado a exigir esa revelación, pero es la excepción, no la norma.