Los deepfakes son cada vez más sencillos de realizar. Cada mes llega alguna aplicación nueva que nos permite poner nuestro rostro en el cuerpo de un famoso, o que mueve la boca de un político para decir palabras que no ha dicho.
Se trata de una nueva tendencia: usuarios de a pie creando vídeos falsos con aplicaciones sencillísimas de usar, colgando los resultados en las redes sociales para engañar a griegos y troyanos.
Facebook quiere luchar contra el tema, pero para hacerlo necesitará identificar lo que es un deepfake y lo que no, y para ello comenzará a crear muchos deepfakes para ayudar a los investigadores a construir y refinar herramientas de detección.
Así es, Facebook ha dirigido a su equipo de investigadores de IA para que produzcan una serie de videos falsos muy realistas con actores que hacen y dicen cosas rutinarias. Estos clips servirán como un conjunto de datos para probar y comparar herramientas de detección. Los deepfakes de Facebook se lanzarán en una importante conferencia de inteligencia artificial a finales de año.
Desde hace años ha sido posible manipular imágenes y videos con software y computadoras, pero con la inteligencia artificial y los ordenadores cada vez más potentes, cualquiera puede hacerlo con un poco de paciencia, pegando la cara de una persona en otra persona con un solo clic. Existen métodos para detectar material falsificados, pero a menudo implican un minucioso análisis de expertos, muy tarde para el mundo de las redes sociales: cuando detecten la farsa, ya se habrá divulgado entre todo el mundo.
Facebook dedicará 10 millones de dólares para financiar la tecnología de detección a través de subvenciones. Trabajarán con con Microsoft y académicos de instituciones como MIT, UC Berkeley y la Universidad de Oxford para lanzar el Deepfake Detection Challenge, que ofrecerá recompensas en efectivo no especificadas por los mejores métodos de detección.
Esperemos que tengan suerte y sean rápidos, o las elecciones de cualquier país estarán en manos de aquellos que sepan falsificar mejor el material.