Facebook está invirtiendo importantes esfuerzos en hacer cumplir las normas comunitarias a los participantes de sus diferentes plataformas sociales. En este sentido, además de contar con personal humando encargado de velar por el cumplimiento, Facebook se está apoyando en las tecnologías de Inteligencia Artificial, y hoy ha ofrecido un avance en los progresos llevados en los últimos tiempos en esta materia.
A este respecto, ha hecho referencia a sistemas utilizados en la actualidad como Reinforcement Integrity Optimizer (RIO), implementado a finales del pasado año, del cual señala que ha ayudado a reducir significativamente los discursos de odio y otros tipos de publicaciones no deseadas en sus plataformas sociales durante el primer semestre.
Para Mike Schroepfer, CTO de Facebook:
La IA es un campo que se mueve increíblemente rápido, y muchas de las partes más importantes de nuestros sistemas de IA actuales se basan en técnicas como la autosupervisión, que parecía un futuro lejano hace apenas unos años
A este respecto, explica que en lugar de entrenar un sistema basado en IA en base a un conjunto de datos fijo, con RIO se ha optado por un modelo en el que el sistema aprende directamente sobre millones de contenidos actuales, adaptándose al paso del tiempo para realizar mejor su trabajo.
Schroepfer argumenta que el enfoque utilizado en RIO es «increíblemente valioso» para el cumplimiento de las normas comunitarias, a lo que añade que:
Debido a que la naturaleza del problema siempre evoluciona junto con los eventos actuales, cuando surgen nuevos problemas, nuestros sistemas deben poder adaptarse rápidamente. El aprendizaje por refuerzo es un enfoque poderoso para ayudar a la IA a enfrentar nuevos desafíos cuando hay escasez de buenos datos de entrenamiento.
A este respecto, esperan que RIO siga ayudando con el tiempo a reducir aún más los discursos de odio en la plataforma.
Pero además de RIO, en Facebook también están reemplazando los sistemas personalizados de un sólo propósito por otros más generales, viendo «mejoras impresionantes» mediante la utilización de modelos de IA multimodales, que pueden funcionar con varios idiomas y varios tipos de contenidos.
Schroepfer también ha hecho referencia a modelos de aprendizaje de «disparo cero» y de «pocos disparos» que permiten a la IA identificar contenidos infractores, incluso si apenas o nunca han tenido ejemplo de ello.
Para el CTO:
El aprendizaje de cero disparos y pocos disparos es uno de los muchos dominios de IA de vanguardia en los que hemos estado haciendo importantes inversiones en investigación, y esperamos ver resultados el próximo año
Vía: ZDNet