Etiqueta: deepfakes

Microsoft toma medidas contra imágenes explícitas generadas por IA

Publicado el

por Juan Diego Polo

Recientemente, se ha revelado que Microsoft ha implementado un sistema de bloqueo de palabras clave en Copilot Designer, su herramienta de diseño asistida por inteligencia artificial (IA). Este movimiento busca prevenir la generación de imágenes de naturaleza violenta o sexual, una preocupación creciente entre las plataformas de tecnología digital. La decisión de Microsoft se produce tras incidentes donde se crearon deepfakes explícitos de la artista Taylor Swift, lo que sin duda encendió alarmas sobre el potencial mal uso de estas herramientas avanzadas.

Continúa leyendo «Microsoft toma medidas contra imágenes explícitas generadas por IA»

AutoveriFAI, una práctica forma de identificar contenido creado por Inteligencia Artificial

Publicado el

por Juan Diego Polo

Ya os he comentado en varias ocasiones que es realmente difícil identificar si un contenido ha sido creado con IA o no, principalmente cuando hablamos de texto. Con las imágenes es más sencillo, aunque las últimas versiones de Midjourney están poniendo complicado el tema.

Con el texto pueden crearse estructuras que después pueden alterarse a mano, y eso es prácticamente imposible de identificar, pero si lo encontramos puro, recién salido de ChatGPT, hay varios puntos que pueden ser detectados fácilmente.

Continúa leyendo «AutoveriFAI, una práctica forma de identificar contenido creado por Inteligencia Artificial»

WhatsApp se arma contra los deepfakes con una innovadora línea de ayuda

Publicado el

por Jahel Cuaresma

La desinformación se ha convertido en una amenaza constante, complicada aún más por la evolución de la inteligencia artificial y los deepfakes. Estos últimos, imágenes o videos generados por IA que imitan la realidad de manera convincente, pueden distorsionar la verdad y difundir falsedades con rapidez. En este contexto, WhatsApp y la Misinformation Combat Alliance (MCA) han tomado una medida proactiva en India, anunciando la creación de una línea de ayuda especializada para combatir esta problemática.

Continúa leyendo «WhatsApp se arma contra los deepfakes con una innovadora línea de ayuda»

Cómo se puede prohibir lo que le han hecho a Taylor Swift

Publicado el

por Juan Diego Polo

El reciente caso de Taylor Swift, víctima de imágenes explícitas generadas por inteligencia artificial (IA) sin su consentimiento, ha desencadenado una ola de preocupación y acción legislativa, destacando la necesidad urgente de leyes más estrictas para combatir esta práctica invasiva y perjudicial.

Los deepfakes, imágenes o videos manipulados mediante IA para hacer parecer que una persona dice o hace algo que en realidad no ha hecho, han cobrado notoriedad en los últimos años, especialmente en la forma de contenido pornográfico no consensuado. Estas imágenes, que pueden ser extremadamente realistas, representan un grave riesgo para la privacidad y la reputación de las personas, afectando desproporcionadamente a las mujeres​​​​.

Continúa leyendo «Cómo se puede prohibir lo que le han hecho a Taylor Swift»

Project Mockingbird para la detección de Deepfakes de audio

Publicado el

por Juan Diego Polo

En un reciente anuncio que ha captado la atención de la comunidad tecnológica, McAfee presentó su Project Mockingbird, una iniciativa que promete ser un hito en la lucha contra los deepfakes de audio. Este proyecto, revelado en el CES 2024, uno de los eventos más prestigiosos del mundo tecnológico, tiene como objetivo principal proteger a los consumidores de los crecientes engaños y estafas impulsados por la inteligencia artificial.

Continúa leyendo «Project Mockingbird para la detección de Deepfakes de audio»

Microsoft presenta herramienta de creación de «deepfakes»

Publicado el

por Juan Diego Polo

El evento Ignite 2023 estuvo lleno de sorpresas, y una de ellas llegó cuando Microsoft presentó una herramienta capaz de crear avatares fotorrealistas y animarlos para que digan cosas que la persona real no dijo. Este desarrollo, conocido como Azure AI Speech text-to-speech avatar, está disponible en vista pública y plantea preguntas éticas fundamentales.

Continúa leyendo «Microsoft presenta herramienta de creación de «deepfakes»»

Es posible detectar DeepFakes si los humanos colaboran con las máquinas

Publicado el

por Juan Diego Polo

La veracidad del contenido que consumimos es fundamental para la toma de decisiones informadas, de eso no hay duda (creo que estamos todos de acuerdo). El caso es que con la llegada de los deepfakes, esta veracidad se ha visto comprometida, desdibujando la línea entre la realidad y la ficción.

Voy a hablar ahora sobre la naturaleza de los deepfakes y su impacto en la sociedad, así como la batalla en curso entre la detección humana y la automatizada de estos contenidos falsificados. Continúa leyendo «Es posible detectar DeepFakes si los humanos colaboran con las máquinas»

Google lanza SynthID para marcar imágenes de IA: ¿La solución al problema de los deepfakes?

Publicado el

por Juan Diego Polo

La proliferación de imágenes generadas por inteligencia artificial plantea preguntas éticas y técnicas. ¿Cómo podemos saber si una imagen ha sido creada por una máquina o un humano? Google ofrece una respuesta con su nueva herramienta, SynthID. Continúa leyendo «Google lanza SynthID para marcar imágenes de IA: ¿La solución al problema de los deepfakes?»

Cómo Deezer está combatiendo el fraude de clones vocales generados por IA

Publicado el

por Nicolás Verdejo

Deezer anunció el lanzamiento de una herramienta para detectar y etiquetar canciones con clones vocales generados por IA, con el objetivo de proteger los ingresos de los artistas reales. En los últimos tiempos, las herramientas de inteligencia artificial han permitido a las personas recrear el sonido de las voces de artistas famosos, tales como The Beatles, Michael Jackson, Freddie Mercury, Oasis, Kanye West y un cada vez más largo etcétera, que se puede encontrar fácilmente en la red buscando la etiqueta«AI cover».

La preocupación de las compañías de música radica en que esta práctica podría afectar sus ganancias futuras, ya que actualmente no existe una forma de proteger los derechos de autor del sonido de la voz de alguien. Sin embargo, Deezer planea identificar música generada por IA, centrándose inicialmente en aquellas que recrean las voces de artistas existentes.

Continúa leyendo «Cómo Deezer está combatiendo el fraude de clones vocales generados por IA»