Llegan novedades en lo que ya parece una carrera entre gatos y ratones, donde unos crean programas de generación de imágenes falsas cada vez más avanzados y otros inventan sistemas para detectarlas.
Ahora se trata de un nuevo algoritmo para detectar las llamadas imágenes falsas profundas, aquellas alteradas imperceptiblemente por los sistemas de inteligencia artificial.
Su funcionamiento se basa en seleccionar información falsa de imágenes no manipuladas hasta el nivel de píxel individual con una precisión de entre 71 y 95 por ciento, dependiendo del conjunto de datos de muestra utilizado. El algoritmo aún no se ha ampliado para incluir la detección de videos profundos, pero hay bastante éxito a la hora de indicar si una fotografía es o no es real.
Los deepfakes han tenido gran éxito en lanzamientos de productos comerciales y en una campañas electorales, donde los videos e imágenes falsas podrían alterar la forma en que se desarrollan los eventos. Ahora, desde el IEEE Transactions on Image Processing, avisan que los algoritmos para detectar estos engaños suelen funcionar, pero que no dejan de ser sistemas probabilísticos, por lo que no tienen la verdad absoluta, a veces se equivocan.
En este caso la red neuronal ha sido entrenada al permitirle examinar miles de imágenes falsas y genuinas, por lo que ha aprendido algunas de las cualidades que hacen que las falsificaciones se destaquen a nivel de un solo píxel. Después de ver cómo se manipulan fotos, acaba aprendiendo casi todos los trucos.
Los límites alrededor de la parte alterada de una imagen son a menudo los que contienen signos reveladores de manipulación, algo que ya saben los que trabajan con Photoshop, y es ahí donde se concentra el algoritmo. Las imágenes manipuladas a menudo son más suaves en los límites de los objetos que en las imágenes naturales, porque la persona que hizo la manipulación estaba haciendo todo lo posible para que fuera así.
Otra parte del algoritmo, al mismo tiempo que se miran píxeles individuales, pasa la imagen completa a través de una serie de filtros de codificación, casi como si estuviera realizando una compresión de imagen. Al final se compara la salida y se compara con el resultado del otro análisis para determinar si hay bandera roja.