Tres herramientas para evitar el contenido «tóxico» en Internet

Publicado el

Internet feliz

Quejas de diversos tipos, insultos, críticas poco constructivas… en Internet, como reflejo de nuestra sociedad que es, hay mucho odio, y en muchas ocasiones no nos apetece leerlo, queremos simplemente informarnos, no leer opiniones de quien no aporta nada positivo.

Conseguir «eliminar» ese contenido no es tarea sencilla. Por un lado no puede bloquearse en su origen, ya que atentaría contra la libertad de expresión, y por otro lado hay que conocer muy bien un idioma para que un sistema de inteligencia artificial sea capaz de identificar lo que es tóxico de lo que simplemente es una pequeña crítica inocente.

El caso es que ya hay herramientas pensadas para filtrar este contenido, y aquí os comentamos tres de ellas:

Toxnic: Un plugin que analiza el contenido en las plataformas de redes sociales y utiliza el aprendizaje automático para bloquear las publicaciones y comentarios tóxicos. Es la primera versión de la extensión, pero indican que el modelo de aprendizaje profundo obtiene un 93% de precisión en el conjunto de pruebas de los datos que utilizan para entrenar el modelo para la detección de contenido tóxico. Eso significa que no es perfecto y podría cometer algunos errores al filtrar contenido odioso. Esta extensión está siendo de código abierto.

Es un paso importante, pero, como el resto de proyectos semejantes, se concentra en el inglés.

Perspective: Una API que facilita tener mejores conversaciones en nuestra aplicación. La API utiliza modelos de aprendizaje automático para calificar el impacto percibido que un comentario podría tener en una conversación. Los desarrolladores y editores pueden usar esta puntuación para dar retroalimentación en tiempo real a los comentaristas o ayudar a los moderadores a hacer su trabajo, o permitir a los lectores encontrar más fácilmente información relevante. En su primer modelo identifica si un comentario podría ser percibido como «tóxico» para una discusión.

No se trata de una extensión para que nosotros dejemos de ver contenido tóxico en las redes y sí para que los programadores lo implanten en sus apps.

Tune: Un plugin experimental creado por Perspective para ayudar a mejorar la calidad del contenido que vemos en las redes. Permite a las personas personalizar cuánta toxicidad desean ver en los comentarios en Internet. Tune se basa en los mismos modelos de aprendizaje automático que potencian Perspective para permitir que las personas establezcan el «volumen» de las conversaciones en una serie de plataformas populares, incluidas YouTube, Facebook, Twitter, Reddit y Disqus.

Tune permite bajar el volumen de comentarios tóxicos para el «modo zen» para omitir los comentarios por completo, o subirlo para ver todo, incluso las cosas malas.

Como veis, opciones en inglés no faltan, esperemos que se amplíen en otros idiomas.