El equipo de Facebook está desarrollando un nuevo proyecto, junto con la Universidad Estatal de Michigan, enfocado a los deepfakes.
Están desarrollando una herramienta que permite detectarlos y rastrear su origen. De esta manera, se podría rastrear cualquier despliegue a gran escala de deepfakes o campañas coordinadas de desinformación.
Nueva herramienta de Facebook para combatir los deepfakes
Facebook está trabajando en una herramienta que utiliza ingeniería inversa para rastrear el modelo generativo que produjo determinados deepfakes. Sí, quieren ir más allá de simplemente identificar si una imagen es verdadera o es un deepfake, ya que quieren conocer el origen.
Y para ello, necesitan conocer las propiedades o patrones únicos del modelo utilizado para producir los deepfakes. Teniendo este conocimiento como base, que funciona como si fueran huellas, se podría rastrear similitudes entre deepfakes y saber si se originaron de un mismo modelo generativo.
Una dinámica que facilitaría que se rastree la fuente de una campaña de desinformación, analizando el contenido, aunque se haya esparcido en diferentes plataformas online. Sin embargo, esto representa un gran desafío para los investigadores, ya que es un área inexplorada y no existen investigaciones para usar de base o comparar los resultados.
Es la primera vez que los investigadores han podido identificar las propiedades de un modelo utilizado para crear un deepfake sin ningún conocimiento previo del modelo. […] Para probar el enfoque, el equipo de investigación de MSU reunió un conjunto de datos de imágenes falsas con 100.000 imágenes sintéticas generadas a partir de 100 modelos generativos disponibles públicamente.
Así que primero comienzan por identificar si un contenido es verdadero o deepfake, y luego buscan estos patrones únicos a modo de huellas, que les permitirá identificar la fuente. Es decir, el modelo generativo tras el desarrollo de determinada colección de deepfakes.
Si bien no es una metodología terminada, y aún falta muchísimo para desarrollar a partir de este sistema, es una avance más que interesante para combatir los deepfakes.