Google está utilizando inteligencia artificial y aprendizaje automático para detectar contribuciones maliciosas en su plataforma de Mapas, opiniones que quiere perjudicar locales, basadas en mentiras, inventadas por la competencia, principalmente.
En una publicación Google dijo que utiliza sistemas de detección automatizados, incluidos modelos de aprendizaje automático, para escanear millones de contribuciones para detectar y eliminar contenido que infringe las políticas.
En el caso de las revisiones, los sistemas de Google verifican cada revisión antes de que se publiquen en Maps, buscando señales de contenido falso. En general buscan palabras y frases específicas y examinan patrones en los tipos de contenido, ya que un spammer suele poner una misma estructura en varios lugares.
Al mismo tiempo, Google emplea equipos de operadores y analistas capacitados que auditan reseñas, fotos, perfiles comerciales y otros tipos de contenido. Solo en 2019, ayudados por la IA, los moderadores humanos eliminaron más de 75 millones de revisiones que violan las políticas y 4 millones de perfiles comerciales falsos. También eliminaron más de 580.000 opiniones y 258.000 perfiles de negocios. Se revisaron y eliminaron más de 10 millones de fotos y 3 millones de videos, eliminando también más de 475.000 cuentas de usuario.
Este contenido eliminado es solo un uno por ciento del total, pero puede hacer mucho daño, por lo que es importante tenerlo bajo control.
No es la única empresa que aplica técnicas de inteligencia artificial y aprendizaje automático para detectar contenido que está en conflicto con sus políticas. Pinterest también lo hace para reducir el contenido de autolesiones en su plataforma; Twitter dijo que el 50% de todos los tweets abusivos están marcados por sus herramientas automatizadas incluso antes de que los usuarios los denuncien; Facebook identifica de manera proactiva más del 96.8% del contenido prohibido usando IA… cada vez es posible mantener más al margen el contenido que quiere reducir la utilidad de Internet.