Después de que una reciente investigación llevada a cabo por NBC News dejara al descubierto que los algoritmos de recomendación de Pinterest facilitaba a los pedófilos crear tableros con imágenes de chicas menores de edad, y cuyas imágenes a veces han recibido visitas de otros dejando comentarios de índole sexual, Pinterest tomará cartas en el asunto.
Lo peor de todo es que la propia Pinterest, que prohíbe las prácticas relacionadas con la desinformación y la utilización de menores de edad, ha carecido de herramientas adecuadas para denunciar al no existir categorías específicas en la que encajar los informes.
Pronto llegarán herramientas para cubrir las lagunas de moderación
Esta investigación deja a las claras que, pese a que Pinterest es de las plataformas sociales más exigentes con lo que permite publicar, ha carecido de las herramientas adecuadas para tratar de poner freno de forma proactiva, y de posibilitar denuncias adecuadas en caso de algunos logren saltarse las reglas de participación, sobre todo, cuando implica la utilización de imágenes de menores de edad.
Ante este escenario, Pinterest le dice a la publicación Engadget que contenidos, como la desnudez y la pornografía en la plataforma, se lo toma «muy en serio», anunciando que implementará una serie de medidas, incluyendo una opción de informes en los tableros la próxima semana, y más adelante, herramientas de informes de perfil ampliadas que incluyan contenidos relacionados con menores.
La IA como aliada para la detección automática de infractores
Y a NBC News, una portavoz de pibterest llegó a señalar que también reforzará su sistema de moderación mediante Inteligencia Artificial, que habitualmente combina con moderadores humanos, para coger a algunos infractores automáticamente, y agregará nuevos sistemas para la verificación de la edad.
Algunas cosas pueden sonar ya que, como hemos indicado, ya se encuentran desde hace tiempo disponibles en otras plataformas sociales conocidas, como es el caso de los sistemas de verificación de edad, uno de los aspectos de seguridad en lo que más se están enfocando desde Instagram.
A ello hay que sumar la creciente preocupación por los legisladores, que ponen en el punto de mira a las principales redes sociales, a las que les exige mejores mecanismos para la protección de los menores en línea.
Si bien Pinterest no entra dentro del segmento de las principales redes sociales, en alusión a redes sociales como Facebook, Instagram TikTok y Twitter, bastante conocidas entre el gran público, sigue teniendo su peso, aunque en cualquier caso, también tiene su parte de responsabilidad para evitar prácticas que tengan relación con los menores de edad y su derecho a la intimidad.
Vía: Engadget
Enlace: Informe de NBC News