El equipo de Microsoft desarrolló un sistema automatizado que puede detectar abusadores sexuales en salas de chat.
Project Artemis es el nombre de esta técnica que comenzó a desarrollarse en 2018 en un Hackathon creado por Microsoft con el fin de crear herramientas para combatir el grooming. Y luego, contó con un grupo de colaboradores como Roblox, The Meet Group, Thorn y Kik.
Cómo funciona la herramienta de Microsoft
Este sistema se utiliza para analizar las conversaciones de texto de chat, y según las características de la interacción se le asigna una calificación.
Esta calificación preliminar puede servir como base para filtrar chats con determinadas características que los convierten en potenciales amenazas. Por ejemplo, analiza los patrones típicos utilizados por depredadores sexuales, buscando frases o palabras clave.
Estos son remitidos a moderadores humanos calificados para identificar rasgos de acoso sexual tras una revisión profunda y remitir la información a las asociaciones correspondientes. O puede que los moderadores consideren que aunque no puede ser calificado como una amenaza real, no cumple con las políticas de la plataforma.
Esta dinámica puede funcionar con cualquier plataforma web que ofrezca función de chat, no necesitan ser exclusivamente salas de chat. El equipo de Microsoft menciona que ha utilizado esta técnica en algunos de sus servicios, como Xbox y Skype.
Esta herramienta es gratuita y estará disponible para cualquier compañía que ofrezca servicios online con chat integrado. Thron será la encargada de proveer a las empresas interesadas la información para implementar este sistema. Una iniciativa que forma parte de su misión, como mencionan en su plataforma:
Muchas empresas pequeñas y medianas no tienen los recursos o el conocimiento para implementar procedimientos y herramientas de seguridad infantil, lo que hace que sus plataformas sean vulnerables a contenido y comportamiento abusivo. Ofrecemos recursos y herramientas para que las empresas ayuden a proteger a los niños en sus plataformas