Desde el blog de Google presentan hoy un proyecto que, junto con Jigsaw, han creado para que pueda usarse el aprendizaje automático con el objetivo de ayudar a identificar comentarios que no aportan nada positivo, los de los típicos y omnipresentes trolls.
Se trata de Perspective, una API disponible en perspectiveapi.com que ayudará a que pueda ser usada en sitios web de todo el mundo para filtrar comentarios tóxicos de forma eficaz.
Perspective hace un análisis de los comentarios y los compara con otros muchos millones que los usuarios indicaron anteriormente como «tóxicos», dignos de trolls, marcándolos para que puedan ser eliminados antes de publicarlos en la plataforma. A medida que va ejecutando su filtro, aprende más sobre lo que es o no es tóxico, aumentando así su puntería a la hora de eliminar contenido de forma automática.
Además de ofrecer la posibilidad de eliminar el comentario en cuestión, también ofrece herramientas para ayudar a su comunidad a entender el impacto de lo que escriben, permitiendo, por ejemplo, que la persona que está escribiendo vea la toxicidad potencial de sus comentarios justo cuando los está escribiendo.
Ya lo han probado con The New York Times, donde se revisan hasta 11.000 comentarios por día, con el objetivo de aumentar la cantidad de conteindo publicado en su plataforma.
Sobre el futuro del proyecto, indican que a lo largo de los dos próximos años lanzarán nuevos modelos para que funcione en otros idiomas, ya que de momento solo es eficaz en inglés.