Los deepfakes son maravillas de la tecnología que permiten que Luke Skywalker aparezca joven en la serie de Boba Fett. Podemos poner cualquier rostro en el cuerpo de cualquier persona, y hacer que dicho rostro se mueva de forma natural, cada vez más.
El problema es que también permite suplantar la identidad digital de personas sin su permiso, lo que es tierra fértil para las Fake News.
El caso es que ahora Google ha prohibido el entrenamiento de sistemas de IA que puedan usarse para generar deepfakes en su plataforma Google Colaboratory. A partir de ahora, en la lista de proyectos no permitidos, tenemos a los deepfakes, ya que por lo visto se estaba usando para fines
Google Colaboratory, también llamado Colab, nació en 2017 como proyecto interno de Google Research, y permite que cualquier persona escriba y ejecute código Python desde el navegador, para aprendizaje automático, educación y análisis de datos. De esta forma cualquiera puede tener acceso a GPU y unidades de procesamiento ideales para proyectos relacionados con Inteligencia Artificial.
Hay un generador de deepfake de código abierto llamado DeepFaceLab, y antes se podía usar Colab para realizar los proyectos. Ahora aparece el mensaje:
Es posible que esté ejecutando un código que no está permitido y esto puede restringir su capacidad para usar Colab en el futuro. Tenga en cuenta las acciones prohibidas especificadas en nuestras preguntas frecuentes.
Google le dijo a TC que el bloqueo se debe a las revisiones periódicas de patrones abusivos que realizan de vez en cuando, bloqueos que se suman a los de ejecutar ataques de denegación de servicio, descifrar contraseñas y descargar torrents.
La decisión no es final, ya que Google reconoce que los deepfakes pueden ser muy beneficiosos, pero tienen un gran potencial para ir en contra de los principios de IA de Google. Si quieres usarlo para el bien, deberás hablar con un representante de Google Cloud para examinar cada caso de uso.