Tanto Google como Facebook han estado trabajando en los últimos meses en el sector de los deepfakes.
Han creado sistemas que consiguen detectarlos con un margen de error bastante pequeño, y ahora Facebook ha dado el paso siguiente: prohibirlos.
El objetivo es evitar la manipulación de los medios para engañar. Estas manipulaciones se pueden hacer a través de tecnología simple como Photoshop o mediante herramientas sofisticadas que utilizan inteligencia artificial o técnicas de «aprendizaje profundo» para crear videos que distorsionan la realidad, los llamados «deepfakes».
En un artículo publicado por Facebook, indican cómo abordan tanto las falsificaciones profundas como todos los tipos de medios manipulados. Investigan contenido generado por IA y comportamientos engañosos, como cuentas falsas, por ejemplo, y han estado manteniendo conversaciones con más de 50 expertos mundiales con antecedentes técnicos, políticos, de medios, legales, cívicos y académicos para informar sobre el desarrollo de sus políticas y mejorar la ciencia de la detección de medios manipulados.
En septiembre de 2019 lanzaron el Deep Fake Detection Challenge, lo que permitió que personas de todo el mundo trabajaran en herramientas de investigación y de código abierto para detectar falsificaciones profundas. Tuvieron 10 millones de dólares en subvenciones, y consiguieron avanzar mucho en el sector.
Fortalecen ahora su política hacia videos manipulados engañosos que se han identificado como falsificaciones profundas. En el futuro, eliminarán los medios manipulados engañosos si cumplen con los siguientes criterios:
- Se ha editado o sintetizado, más allá de los ajustes por claridad o calidad, de maneras que no son evidentes para una persona promedio y que probablemente inducirán a error a alguien a pensar que un sujeto del video dijo palabras que en realidad no dijo.
- Es el producto de la inteligencia artificial o el aprendizaje automático que fusiona, reemplaza o superpone contenido en un video, haciéndolo parecer auténtico.
Esta política no se extiende al contenido que es parodia o sátira, o video que ha sido editado únicamente para omitir o cambiar el orden de las palabras.
El audio, las fotos o los videos, ya sean falsos o no, se eliminarán de Facebook si violan cualquiera de sus otras Normas de la comunidad, incluidas las que rigen la desnudez, la violencia gráfica, la supresión de votantes y el discurso de odio.
Los videos que no cumplan con estos estándares para la eliminación aún pueden ser revisados por uno de sus verificadores de hechos independientes de terceros, que incluyen más de 50 socios de verificación de hechos en todo el mundo en más de 40 idiomas. Si un verificador de hechos califica una foto o un video como falso o parcialmente falso, reducirán significativamente su distribución en News Feed y lo rechazarán si se está publicando como un anuncio. Por otro lado, las personas que lo ven, intentan compartirlo o ya lo han compartido, verán advertencias que alertarán de que es falso.
Esperemos que sea tan efectivo como suena.