Etiqueta: deepfakes

Por qué los Deepfakes serán la gran amenaza de las próximas décadas

Publicado el

por Laura González Marín

Los deepfakes se han convertido en una de las formas más peligrosas de IA adversarial. Esta tecnología, que permite crear videos y audios falsos casi perfectos, está en auge. Según las estimaciones, los deepfakes podrían causar pérdidas de hasta 40 mil millones de dólares para 2027. Este crecimiento es impulsado por la facilidad con la que los atacantes pueden generar contenido falso usando aplicaciones y herramientas avanzadas de IA.

Continúa leyendo «Por qué los Deepfakes serán la gran amenaza de las próximas décadas»

Deepfakes de Elon Musk promueven estafas de Criptomonedas en YouTube Live

Publicado el

por Juan Diego Polo

En la última semana, un deepfake de Elon Musk se ha utilizado para llevar a cabo una estafa de criptomonedas en YouTube Live. Este video, que duró cinco horas, simulaba un evento en vivo de Tesla, con una versión generada por IA de la voz de Musk. La transmisión pedía a los espectadores que depositaran sus bitcoins, Ethereum o Dogecoins en un sitio web fraudulento, prometiendo duplicar la cantidad depositada.

Continúa leyendo «Deepfakes de Elon Musk promueven estafas de Criptomonedas en YouTube Live»

IA entrenada con imágenes de niños sin permiso de los padres

Publicado el

por Juan Diego Polo

Un informe reciente de Human Rights Watch ha destapado un problema serio: datasets utilizados para entrenar modelos de inteligencia artificial contienen imágenes y datos de niños reales, recogidos sin el consentimiento de los padres. Esta situación plantea preocupaciones significativas sobre la privacidad y el uso ético de la tecnología.

Continúa leyendo «IA entrenada con imágenes de niños sin permiso de los padres»

Para detectar si una imagen, audio o documento está creado con Inteligencia Artificial

Publicado el

por Juan Diego Polo

La distinción entre contenido genuino y generado por inteligencia artificial (IA) se ha vuelto cada vez más difusa. La proliferación de tecnologías de IA capaces de crear imágenes, audio y vídeos indistinguibles de los realizados por humanos, ha generado una necesidad imperiosa de herramientas que puedan verificar la autenticidad del contenido digital. Una solución emergente en este campo es «AI or Not», un servicio web diseñado para detectar contenidos generados por IA y autenticar su origen, aunque en 2023 ya os dije que el tema es complicado.

Continúa leyendo «Para detectar si una imagen, audio o documento está creado con Inteligencia Artificial»

Etiquetas de Contenido generado por IA en Youtube

Publicado el

por Juan Diego Polo

Después de ver lo que se acerca (hablo de VLOGGER), está claro que los vídeos del futuro podrán estar hechos al 100% por máquinas (imagina lo que podrá hacerse si juntamos VLOGGER con Sora).

Las plataformas digitales se encuentran en una carrera constante por adaptarse y proteger a sus usuarios de potenciales desinformaciones, y ahora es YouTube quien mueve ficha con una medida significativa en este sentido, que considero merece una mirada detallada.

Continúa leyendo «Etiquetas de Contenido generado por IA en Youtube»

VLOGGER, lo nuevo de Google para hacer que una fotografía hable

Publicado el

por Juan Diego Polo

Proyectos de Inteligencia Artificial que cogen una imagen y la transforman en un vídeo, hay muchos, pero hasta ahora no había visto ninguno así en las manos de Google.

Se trata de VLOGGER (curioso nombre), y llega de las manos de un equipo de investigadores de Google que han decidido dar vida a fotografías estáticas, transformándolas en videos realistas de personas hablando y gesticulando.

Continúa leyendo «VLOGGER, lo nuevo de Google para hacer que una fotografía hable»

Microsoft toma medidas contra imágenes explícitas generadas por IA

Publicado el

por Juan Diego Polo

Recientemente, se ha revelado que Microsoft ha implementado un sistema de bloqueo de palabras clave en Copilot Designer, su herramienta de diseño asistida por inteligencia artificial (IA). Este movimiento busca prevenir la generación de imágenes de naturaleza violenta o sexual, una preocupación creciente entre las plataformas de tecnología digital. La decisión de Microsoft se produce tras incidentes donde se crearon deepfakes explícitos de la artista Taylor Swift, lo que sin duda encendió alarmas sobre el potencial mal uso de estas herramientas avanzadas.

Continúa leyendo «Microsoft toma medidas contra imágenes explícitas generadas por IA»

AutoveriFAI, una práctica forma de identificar contenido creado por Inteligencia Artificial

Publicado el

por Juan Diego Polo

Ya os he comentado en varias ocasiones que es realmente difícil identificar si un contenido ha sido creado con IA o no, principalmente cuando hablamos de texto. Con las imágenes es más sencillo, aunque las últimas versiones de Midjourney están poniendo complicado el tema.

Con el texto pueden crearse estructuras que después pueden alterarse a mano, y eso es prácticamente imposible de identificar, pero si lo encontramos puro, recién salido de ChatGPT, hay varios puntos que pueden ser detectados fácilmente.

Continúa leyendo «AutoveriFAI, una práctica forma de identificar contenido creado por Inteligencia Artificial»

WhatsApp se arma contra los deepfakes con una innovadora línea de ayuda

Publicado el

por Jahel Cuaresma

La desinformación se ha convertido en una amenaza constante, complicada aún más por la evolución de la inteligencia artificial y los deepfakes. Estos últimos, imágenes o videos generados por IA que imitan la realidad de manera convincente, pueden distorsionar la verdad y difundir falsedades con rapidez. En este contexto, WhatsApp y la Misinformation Combat Alliance (MCA) han tomado una medida proactiva en India, anunciando la creación de una línea de ayuda especializada para combatir esta problemática.

Continúa leyendo «WhatsApp se arma contra los deepfakes con una innovadora línea de ayuda»

Cómo se puede prohibir lo que le han hecho a Taylor Swift

Publicado el

por Juan Diego Polo

El reciente caso de Taylor Swift, víctima de imágenes explícitas generadas por inteligencia artificial (IA) sin su consentimiento, ha desencadenado una ola de preocupación y acción legislativa, destacando la necesidad urgente de leyes más estrictas para combatir esta práctica invasiva y perjudicial.

Los deepfakes, imágenes o videos manipulados mediante IA para hacer parecer que una persona dice o hace algo que en realidad no ha hecho, han cobrado notoriedad en los últimos años, especialmente en la forma de contenido pornográfico no consensuado. Estas imágenes, que pueden ser extremadamente realistas, representan un grave riesgo para la privacidad y la reputación de las personas, afectando desproporcionadamente a las mujeres​​​​.

Continúa leyendo «Cómo se puede prohibir lo que le han hecho a Taylor Swift»