Twitter comenzará a aplicar nuevas reglas para combatir los deepfakes en la plataforma.
Teniendo en cuenta el feedback de los usuarios, Twitter implementará una serie de medidas que se basa en una regla central: Continúa leyendo «Twitter comenzará a etiquetar y eliminar los deepfakes»
Antes de que el tema se salga de las manos, la Inteligencia Artificial necesita una regulación, necesita normas para que se especifique hasta donde podemos llegar, para evitar situaciones complejas y poder aplicar las leyes de robots de Asimov (o cualesquier otras) en un futuro cercano.
Ese tema ya ha sido abordado en el pasado por varias personas, pero ahora es Sundar Pichai quien ha escrito un artículo de opinión en el Financial Times describiendo la necesidad de regular la IA. Continúa leyendo «Sundar Pichai, CEO de Google, dice que hay que regular a la Inteligencia Artificial»
Tanto Google como Facebook han estado trabajando en los últimos meses en el sector de los deepfakes.
Han creado sistemas que consiguen detectarlos con un margen de error bastante pequeño, y ahora Facebook ha dado el paso siguiente: prohibirlos. Continúa leyendo «Facebook prohibirá los deepfakes en su plataforma»
La creación de Deepfakes (término que hace referencia a una técnica en la cual se replica el rostro y voz de una persona en base a una serie de material compuesto por imágenes, audio y video recopilados de la misma) ha ido en aumento en estos últimos meses, de acuerdo con resultados revelados por Deeptrace, una empresa de ciberseguridad con sede en Ámsterdam.
Según un proceso de seguimiento efectuado por la empresa, entre junio y julio de este año, un total de 14.968 deepfakes han sido detectados, representando esto, un incremento del 84% respecto a diciembre de 2018, mes en el cual fueron contabilizados un total de 7.964 deepfakes. Continúa leyendo «Este es el plan de Facebook, Microsoft y otros para detectar los deepfakes»
La evolución de la propia tecnología hace que las plataformas sociales tengan que estar actualizando sus políticas y herramientas constantemente para hacer frente a los nuevos problemas que también van llegando.
En el caso de Twitter, la compañía ya se puso a trabajar semanas atrás en las nuevas reglas, en colaboración con expertos y especialistas, con las que pretende hacer frente a los contenidos multimedia alterados y publicados con el fin de engañar y manipular a los usuarios.
Continúa leyendo «Twitter llama a la participación pública para mejorar sus nuevas reglas contra las deepfakes»
Facebook AI Research desarrolló un sistema basado en el aprendizaje automático que permite alterar características faciales de una persona en vídeo, para engañar a cualquier sistema de reconocimiento facial.
Una tecnología que ya se ha aplicado en imágenes fijas logrando que el reconocimiento facial realice una falsa identificación. Pero la particularidad del sistema de Facebook es que la IA puede realizar este proceso en tiempo real a partir de una modificación automática, tal como mencionan en VB.
Continúa leyendo «Facebook entrena una IA para engañar a los sistemas de reconocimiento facial»
Llegan novedades en lo que ya parece una carrera entre gatos y ratones, donde unos crean programas de generación de imágenes falsas cada vez más avanzados y otros inventan sistemas para detectarlas.
Ahora se trata de un nuevo algoritmo para detectar las llamadas imágenes falsas profundas, aquellas alteradas imperceptiblemente por los sistemas de inteligencia artificial. Continúa leyendo «Un nuevo algoritmo para detectar DeepFakes»
Adobe junto con un equipo de UC Berkeley desarrollaron una red neuronal capaz de identificar rostros modificados con Photoshop.
Específicamente se basaron en los cambios realizados con la función Licuar que permite modificar los rasgos del rostro de una persona. Entrenaron a la IA para detectar estos cambios y revertir la imagen al estado original.
Utilizaron miles de pares de imágenes, tomando la original y la modificada, para que la IA aprenda a identificar los cambios realizados. Los resultados fueron asombrosos, ya que logró un nivel de precisión de 99% detectando cambios en imágenes manipuladas frente al trabajo de un equipo humano que no superó el 53% de éxito.
Continúa leyendo «La IA de Adobe puede detectar rostros modificados con Photoshop»
Seguramente todos vosotros habréis visto alguna vez algún vídeo en el que el rostro de un famoso o famosa pronuncia palabras que en realidad nunca salieron de su boca. Esos deepfakes son cada vez más populares, y forman uno de los pilares de las fake news: basta un político diciendo algo en un vídeo gracias a la edición, y ya tenemos la noticia falsa lista para crear confusión en todas las redes sociales.
El caso es que nunca fue muy difícil hacer algo así, basta con separar la boca del resto del rostro y crear un vídeo con los movimientos de dicha boca editados para que parezcan pronunciar cualquier cosa. Pero ahora el asunto se está poniendo tan fácil que da algo de miedo. Continúa leyendo «Cómo se hacen los vídeos de gente diciendo lo que nunca ha dicho»
