Os lo comenté en Twitter hace unas horas, y ahora se confirma: bloquearon las búsquedas de Taylor Swift porque las cosas se estaban saliendo de control.
La decisión de X (anteriormente Twitter) de bloquear las búsquedas del nombre de Taylor Swift en su plataforma representa una respuesta significativa a los crecientes desafíos y preocupaciones planteados por la tecnología deepfake. Este caso particular destaca el realismo y la falsedad inherentes a las deepfakes, que utilizan inteligencia artificial avanzada para crear imágenes o videos que parecen realistas pero son completamente falsos, tal y como comenté la semana pasada.
En términos de respuesta de las plataformas de redes sociales, X ha tomado medidas importantes como la suspensión de cuentas y el bloqueo de búsquedas relacionadas con el incidente. Esto subraya los desafíos de la moderación de contenido en tiempo real en estas plataformas, especialmente frente a la viralidad de ciertas imágenes. La política de tolerancia cero hacia la desnudez no consensuada (NCN) de X es la responsable de esta acción, aunque la efectividad de estas políticas está en constante escrutinio.
Este caso pone de relieve la vulnerabilidad de figuras públicas como Taylor Swift ante la invasión de la privacidad a través de tecnologías como las deepfakes, destacando la necesidad de protección. La reacción de la Casa Blanca, la atención del CEO de Microsoft, Satya Nadella, y el interés en la regulación y legislación en torno a la tecnología deepfake sugieren un creciente enfoque en abordar la creación y distribución de contenido falso.
Lo curioso es que X no haya conseguido eliminar el contenido polémico a medida que se publica, ha tenido que apostar por algo tan radical como cancelar las búsquedas, bloquearlas, para que aparezca algo así:
Cuando x bloquea las búsquedas por Taylor Swift es porque la moderación de contenido no funciona… pic.twitter.com/zC3opoHcML
— WWWhatsnew (@wwwhatsnew) January 28, 2024
Desde el punto de vista empresarial, este incidente es especialmente desafiante para X, teniendo en cuenta su cambio de propiedad y las críticas anteriores a sus políticas de moderación de contenido bajo la dirección de Elon Musk. Las repercusiones económicas se hacen evidentes con la reacción adversa de los anunciantes y la preocupación por la asociación de sus marcas con publicaciones dañinas en X.
Lo que está claro es que este incidente con Taylor Swift y la tecnología deepfake resalta la urgente necesidad de un enfoque equilibrado que proteja la privacidad y seguridad de los individuos, al tiempo que se aborda el impacto social y legal de estas tecnologías emergentes. La respuesta de X no ha sido la ideal, por lo menos desde mi punto de vista, pero sí es cierto que fue efectivo para evitar que millones de personas vean y divulguen el contenido en cuestión.