La batalla contra los fraudes y estafas online continúa evolucionando, y Google ha lanzado una nueva iniciativa para informar sobre las tendencias más recientes en este ámbito. Los equipos de Trust & Safety de Google están luchando contra la creciente sofisticación de estos ataques, que ahora incluyen desde el uso de deepfakes hasta complejas estafas de inversión. Este primer informe de advertencia sobre fraudes online destaca cinco tendencias en auge que todos los usuarios deben conocer. Aquí te contamos cada detalle para que puedas protegerte mejor.
Etiqueta: deepfake
DeepFake-o-Meter: La herramienta que democratiza la detección de deepfakes
La difusión de información engañosa en internet puede ser extremadamente rápida. Aunque existen herramientas para detectar deepfakes —falsificaciones creadas por inteligencia artificial (IA) en fotos, videos o audios—, estas suelen estar reservadas a investigadores y expertos. Sin embargo, esto está cambiando gracias a DeepFake-o-Meter, una plataforma de código abierto desarrollada por el equipo de la Universidad de Buffalo, liderado por el experto en deepfakes Siwei Lyu.
Continúa leyendo «DeepFake-o-Meter: La herramienta que democratiza la detección de deepfakes»
Tom Hanks alerta sobre estafas con deepfakes que utilizan su imagen
Tom Hanks, el querido actor, ha hecho un llamado a los usuarios de internet para que eviten caer en estafas en línea que usan su imagen para vender medicamentos y suplementos. En una publicación de Instagram, Hanks emitió un «anuncio de servicio público» advirtiendo que «hay múltiples anuncios en internet que utilizan falsamente mi nombre, imagen y voz» para promover «curas milagrosas y medicamentos maravillosos.»
Continúa leyendo «Tom Hanks alerta sobre estafas con deepfakes que utilizan su imagen»
Deep-Live-Cam: La tecnología deepfake en tiempo real que está generando preocupaciones sobre el fraude de identidad
Hace no tanto tiempo, los deepfakes eran una curiosidad tecnológica, algo que necesitaba poderosos equipos de computación y tiempo considerable para ser creado. Hoy, sin embargo, la barrera de entrada para crear estos engaños digitales se ha reducido dramáticamente. Deep-Live-Cam, una nueva herramienta de deepfake en tiempo real, está revolucionando esta tecnología, al tiempo que genera una ola de preocupaciones sobre su posible mal uso.
Las voces generadas por IA en llamadas ya son ilegales en Estados Unidos
La reciente medida adoptada por la FCC (Comisión Federal de Comunicaciones) de Estados Unidos marca un hito significativo en la lucha contra las llamadas automáticas no deseadas, especialmente aquellas que utilizan voces generadas por inteligencia artificial para engañar o influir en los destinatarios. Esta decisión, que clasifica a las llamadas robóticas con voz AI como ilegales, refleja un esfuerzo por adaptar la legislación existente a los desafíos emergentes que plantea la tecnología moderna.
Continúa leyendo «Las voces generadas por IA en llamadas ya son ilegales en Estados Unidos»
X bloquea las búsquedas de Taylor Swift para evitar aumentar el problema
Os lo comenté en Twitter hace unas horas, y ahora se confirma: bloquearon las búsquedas de Taylor Swift porque las cosas se estaban saliendo de control.
La decisión de X (anteriormente Twitter) de bloquear las búsquedas del nombre de Taylor Swift en su plataforma representa una respuesta significativa a los crecientes desafíos y preocupaciones planteados por la tecnología deepfake. Este caso particular destaca el realismo y la falsedad inherentes a las deepfakes, que utilizan inteligencia artificial avanzada para crear imágenes o videos que parecen realistas pero son completamente falsos, tal y como comenté la semana pasada.
Continúa leyendo «X bloquea las búsquedas de Taylor Swift para evitar aumentar el problema»
¿Humano o hecho por Inteligencia Artificial? Este juego mostrará tu puntería
El juego «Human or AI?», lanzado por ContentDetector.AI no es solo un pasatiempo, sino que se convierte en un estudio social fascinante sobre nuestra capacidad para distinguir entre imágenes reales y las generadas por inteligencia artificial. Y los resultados son, cuanto menos, sorprendentes.
La premisa del juego es sencilla pero desafiante: se presentan cinco imágenes y el reto consiste en adivinar cuáles son de personas reales y cuáles son creadas por una IA. Los datos obtenidos en la primera semana son reveladores: 57.6% de las respuestas a nivel mundial fueron incorrectas. Este dato nos lleva a reflexionar sobre cómo la tecnología ha avanzado hasta el punto de confundirnos en algo tan básico como reconocer un rostro humano.
Continúa leyendo «¿Humano o hecho por Inteligencia Artificial? Este juego mostrará tu puntería»
Música generada por inteligencia artificial: Google y UMG en conversaciones para crear una nueva era en la industria
¿Puede una máquina cantar como tu artista favorito? Esta pregunta, que podría haber parecido ciencia ficción hace unos años, está tomando forma en una realidad palpable. Google y Universal Music Group (UMG) están en conversaciones para desarrollar una herramienta que permita a la gente crear música generada por IA utilizando las voces y melodías de artistas populares. Continúa leyendo «Música generada por inteligencia artificial: Google y UMG en conversaciones para crear una nueva era en la industria»
Midjourney ya no permite generar imágenes gratis, por polémica con la creación de deepfakes
Midjourney, una popular plataforma generadora de imágenes por inteligencia artificial, ha decidido suspender sus pruebas gratuitas luego de una serie de escándalos relacionados con algunas de sus creaciones. Entre ellas, se incluyen aquellas viralizadas durante los últimos días con el falso arresto de Donald Trump y las imágenes virales del Papa Francisco con un abrigo estilo Balenciaga.
Según David Holz, CEO y fundador de la plataforma, la medida se tomó debido a la “demanda extraordinaria” y al “abuso” por parte de los usuarios.
Intel presenta detector de deepfake con 96% de precisión
La herramientas que son capaces de crear deefakes están cada vez más al alcance de todos, por lo que la cantidad de noticias falsas que se pueden generar usando rostros de políticos y famosos en general, aumentará bastante durante los próximos años.
Dentro de poco será posible crear un vídeo con el rostro de un político diciendo cualquier cosa usando su propia voz, y desde el móvil, por lo que es importante estar preparados para este tema. Continúa leyendo «Intel presenta detector de deepfake con 96% de precisión»