TikTok ha actualizado sus políticas de moderación de contenido para incluir nuevas restricciones en la publicación de deepfakes generados por inteligencia artificial.
Estas actualizaciones se producen en medio de una creciente presión política sobre su empresa matriz china, ByteDance.
TikTok se actualiza para abordar el problema de los deepfakes que causan daño y desinformación en su plataforma
Si bien la mayoría de las políticas de moderación de TikTok no han cambiado, la nueva sección ampliada de «medios sintéticos y manipulados» cubre los deepfakes de IA, que han ganado popularidad en la aplicación en los últimos meses.
Anteriormente, las reglas de TikTok sobre deepfakes se limitaban a una sola línea que prohibía el contenido que pudiera «engañar a los usuarios distorsionando la verdad de los eventos o causando un daño significativo al sujeto del video». Ahora, la empresa exige que todo contenido generado y editado con IA que parezca realista se «divulgue claramente» como tal, ya sea en la leyenda del video o en una etiqueta superpuesta.
TikTok no permitirá ningún medio sintético «que contenga la semejanza de cualquier figura privada real» ni que muestre a una figura pública respaldando un producto o violando otras políticas de la aplicación (como su prohibición del discurso de odio). La empresa define a las figuras públicas como cualquier persona mayor de 18 años con «un papel público significativo, como un funcionario gubernamental, político, líder empresarial o celebridad».
El contenido generado por IA ha aumentado su popularidad dentro de TikTok, en gran parte gracias a la creciente disponibilidad de herramientas de clonación de voz de IA que hacen que sea fácil imitar la voz de alguien. Estas herramientas han creado nuevos subgéneros de contenido, a menudo centrados en situaciones inesperadas con figuras públicas como el presidente Joe Biden y el ex presidente Donald Trump. Otros casos de uso son más perjudiciales, con deepfakes que muestran a estas mismas figuras leyendo declaraciones homofóbicas o transfóbicas, que a veces se han confundido con imágenes reales.
La actualización de las políticas de TikTok se produce en un momento de creciente presión política para ByteDance, mientras los gobiernos occidentales expresan temor por la recopilación de datos privados de la aplicación y su potencial para influir en la opinión pública. El gobierno estadounidense ha amenazado con una prohibición pública de TikTok si ByteDance no vende su participación, mientras que la aplicación ya ha sido prohibida en los dispositivos del personal de la Comisión Europea y en los equipos gubernamentales de Estados Unidos, Reino Unido, Nueva Zelanda y Canadá.
Aunque TikTok no aborda estas amenazas directamente en sus políticas actualizadas, la empresa ha declarado que desea ofrecer «mucha más transparencia sobre nuestras reglas y cómo las hacemos cumplir». La compañía también publicará una lista de ocho «Principios comunitarios» que, según afirma, «dan forma a nuestro trabajo diario y guían cómo abordamos decisiones difíciles de cumplimiento». Cabe destacar que los dos primeros principios son «prevenir el daño» y «permitir la libre expresión».