Creador de TikTok preparaba herramienta de Deepfake

Publicado el

Los Deepfakes son el resultado de poner el rostro de una persona en el cuerpo de otro, tanto en imagen como en vídeo, lo que provoca engaños y confusión en las redes sociales, principalmente cuando usamos el rostro de alguien para que diga algo que nunca ha dicho en la vida real.

Hay muchas herramientas que usan la inteligencia artificial para crear deepfakes, y parece que uno de los desarrolladores más conocidos del mundo, los responsables por TikTok, estaban preparando una.

La empresa matriz de TikTok, ByteDance, creó una función que podría permitir a los usuarios crear sus propias falsificaciones. Lo indican en TC, donde ya muestran hasta el nombre que tenía: Face Swap.

Se ha visto el código tanto en TikTok como en la aplicación china Douyin. Es una función que pedía a los usuarios que escaneen su rostro y luego pasen esa imagen a vídeos.

Por un lado, la característica podría verse como una evolución natural de otra tecnología de intercambio de caras. Por otro lado, podría tener algunas repercusiones muy desagradables, ya que en malas manos, esta tecnología puede generar desastres en el mundo de las fake news.

La función también genera preocupaciones sobre lo que ByteDance podría hacer con datos biométricos confidenciales, aunque eso no es único de dicha compañía y sí de cualquiera que venga de un país sin reglas estrictas sobre lo que puede o no puede hacer con los datos de los usuarios.

tiktok

Al principio no se sabía si esta función llegaría o no a TikTok y a sus 1.500 millones de descargas (número resultado de sumar TikTok con Douyin), pero TikTok habría dicho posteriormente a TechCrunch que la función en cuestión no es una función en TikTok y que estaban eliminando los fragmentos de código inactivo para eliminar cualquier confusión.

El código fue encontrado en ambas aplicaciones por la firma de investigación israelí Watchful.ai.

Comparte en: