Susan Wojcicki, CEO de Youtube ha publicado un extenso artículo indicando los cambios que se están aplicando para hacer de Youtube un lugar más seguro.
En el texto muestran las acciones necesarias para eliminar contenido violento, así como los vídeos creados para engañar, manipular, hostigar e incluso dañar.
Por un lado comentan que ahora hay más personas revisando más contenido. El equipo responsable por la tarea ha revisado manualmente cerca de 2 millones de videos en búsqueda de contenido extremista violento, algo necesario para entrenar al sistema de aprendizaje automático para identificar videos similares en el futuro. El mismo equipo analizará también comentarios, y el sistema de inteligencia artificial identificará posibles comentarios polémicos para mostrarlos a los administradores de cada vídeo, para que puedan denunciarse también desde el canal de creación.
Quieren ampliar este equipo para que en 2018 está formado por más de 10.000 personas.
Por otro, hablan sobre los problemas a escala y sobre el uso del aprendizaje automático para ayudar a eliminar casi cinco veces más videos que antes.
Hoy, 98% de los videos que eliminamos por extremismo violento están marcados por algoritmos de aprendizaje automático.
En lo que se refiere a la transparencia, indican que mostrarán más información sobre lo que no permiten en Youtube. En 2018 crearán un informe regular con más datos sobre el contenido marcado que reciben y las medidas que toman para eliminar videos y comentarios.
En el tema de la publicidad también están concentrándose para que los anunciantes nunca vean su publicidad junto a contenido inapropiado, aunque quieren tranquilizar a los creadores para que duerman tranquilos sabiendo que sus ingresos no se verán afectados por las acciones de personas malintencionadas. Van a aplicar criterios más estrictos, y darán más detalles durante las próximas semanas.
Este plan de acción es necesario después del último escándalo, en el que se identificaron miles de vídeos con niños con comentarios realmente desagradables. Aún hay mucho camino que recorrer, pero las pautas están marcadas.