Facebook sigue invirtiendo en nuevos recursos para perfeccionar su sistema de moderación, implementando una nueva dinámica que aprovecha el potencial de la inteligencia artificial.
Esta nueva IA, llamada Rosetta, tiene como objetivo identificar el contenido de imágenes y memes, entendiendo su contexto, con el fin de detectar aquellos textos que violen las políticas de Facebook.
Los desarrolladores de Facebook mencionan que este proceso está compuesto de dos fases, detección y reconocimiento. Por un lado, Rosetta ha sido entrenada para enfocarse en aquellas zonas de la imagen que suele aparecer el texto, para extraer el contenido. Luego, gracias a la red neuronal, transcribe el texto para pasarlo al equipo humano de moderación.
Siguiendo esta dinámica, Rosetta trabaja diariamente con contenido que se comparte en Facebook e Instagram, analizando el texto de mil millones de imágenes y frames de videos. Un detalle interesante es que puede realizar esta dinámica en diferentes idiomas y dialectos.
Sin embargo, esto solo es el principio, ya que Facebook asegura que tiene planes de añadir soporte para más idiomas y mejorar está nueva dinámica de detección y extracción de texto. Junto con este informe, Facebook también anunció que la traducción automática se extiende a 24 nuevos idiomas, aunque en algunos casos, se encuentra en etapa inicial y queda mucho trabajo para mejorar la calidad del sistema.