Facebook utilizará un nuevo sistema basado en inteligencia artificial para agilizar el proceso de moderación de contenidos. Esta nueva dinámica complementará el trabajo de los moderadores humanos, ya que ayudará a que ellos se enfoquen más rápido en las cuestiones de mayor importancia.
Este nuevo sistema permitirá que los moderadores tomen medidas rápidas en casos urgentes, ya que que la IA hará un trabajo previo estando a cargo de la “cola de moderación”.
Los reportes de publicaciones en Facebook pueden tener diferentes motivos, que van desde spam hasta contenido que viola las reglas de la plataforma, así que no todas son tratadas de la misma manera. A algunas se las modera automáticamente aplicando determinada acción (por ejemplo, eliminar la publicación), y en casos graves, se pasan a la cola para moderación.
Tal como mencionan en The Verge,los reportes se ordenan de forma cronológica a medida que van surgiendo en la plataforma. Y de esa forma llegan a los moderadores humanos, así que puede que publicaciones que requieren atención urgente no se la trate de esa manera.
Esto se solucionará con el nuevo sistema de IA de Facebook. Cuando se reporta una publicación, algoritmos de aprendizaje automático de Facebook se encargarán de valorar este reporte y priorizar las publicaciones teniendo en cuenta una serie de criterios, por ejemplo, mencionan viralidad, si infringe las reglas o su gravedad.
De esta forma, los moderadores podrán tratar los reportes de publicaciones más perjudiciales en el menor tiempo posible. Una de las claves para mantener la plataforma segura.